המנהיגים של OpenAI, הארגון האחראי לפיתוח ChatGPT, קוראים להסדרת אינטליגנציות "סופר אינטליגנטיות".
הם דוגלים בהקמת גוף רגולטורי דומה לסוכנות האנרגיה הבינלאומית אנרגיה אטומית כדי להגן על האנושות מפני הסיכונים של יצירת אינטליגנציה המסוגלת מבטל.
ראה עוד
גוגל מפתחת כלי בינה מלאכותית כדי לעזור לעיתונאים ב...
אייפון מקורי 2007 שלא נפתח נמכר בכמעט 200,000 דולר; לָדַעַת...
בהצהרה קצרה שפורסמה באתר החברה, המייסדים השותפים גרג ברוקמן ואיליה סוצקבר, יחד עם המנכ"ל סם אלטמן, קריאה להקמת גוף רגולטורי בינלאומי שייזום את העבודה של אימות מערכות מודיעין מְלָאכוּתִי.
מטרת ההצעה היא ביצוע ביקורות, מבחני עמידה בתקני אבטחה ויישום הגבלות ברמות הפריסה והאבטחה. צעדים אלו מטרתם להפחית את הסיכון הקיומי הקשור למערכות אלו, תוך ניסיון להגן על האנושות מפני סכנות אפשריות.
במשך כמה עשורים, חוקרים מדגישים את הסיכונים הפוטנציאליים הקשורים לאינטליגנציה העל, שם ראינו למעשה אבולוציה. עם זאת, ככל שפיתוח הבינה המלאכותית מתקדם במהירות, הסיכונים הללו הופכים ליותר ויותר קונקרטיים.
O המרכז לבטיחות בינה מלאכותית (CAIS), שבסיסה בארה"ב, מוקדש לצמצום הסיכונים החברתיים הקשורים לבינה מלאכותית וזיהתה שמונה קטגוריות של סיכון הנחשבות "קטסטרופליות" ו"קיומיות" הקשורות לפיתוח בינה מלאכותית, על ידי דוגמא. יש סיכונים רציניים ואנחנו חשופים אליהם.
אפשר לדמיין שב-10 השנים הבאות, מערכות בינה מלאכותית יגיעו לרמה של מיומנות מיוחדת בכמה תחומים ולהיות פרודוקטיביים כמו כמה מהחברות הגדולות ביותר שיש כיום, כמו מומחים ב OpenAI.
להתפתחות המהירה הזו של AI יש פוטנציאל לשנות משמעותית תעשיות רבות תוך שמירה על יעילות ואוטומציה בפעילויות יצרניות רבות.
מבחינת יתרונות והגנה פוטנציאליים, מודיעין-על נחשב לטכנולוגיה מתקדמת יותר. חזקים מאלו שהאנושות עסקה בהם בעבר, נאמר במסר של המנהיגים.
יש סיכוי לעתיד משגשג יותר באופן משמעותי, אך חיוני לנהל בקפידה את הסיכונים הכרוכים בהשגת תרחיש זה. לנוכח האפשרות של סיכונים קיומיים, כפי שהם דיווחו בהערה, יש חשיבות מכרעת לאמץ עמדה יזומה, ולא רק להגיב למצבים כשהם מתעוררים.
בהקשר המיידי, הקבוצה מדגישה את הצורך ב"רמה מסוימת של תיאום" בין חברות העוסקות במחקר מתקדם. ב-AI, על מנת להבטיח שילוב חלק של מודלים חזקים יותר ויותר בחברה, עם עדיפות מיוחדת בִּטָחוֹן.
ניתן ליצור תיאום כזה באמצעות יוזמות או הסכמים קיבוציים המבקשים להגביל את קידום יכולת הבינה המלאכותית. גישות אלו יהיו המפתח להבטחת פיתוח בינה מלאכותית מותר בצורה מבוקרת ואחראית, בהתחשב בסיכונים הכרוכים בכך.
חובב סרטים וסדרות וכל מה שקשור לקולנוע. סקרן פעיל ברשתות, מחובר תמיד למידע על האינטרנט.
