א OpenAI, חברת האם של ChatGPT, מתמודדת עם ימים של חוסר יציבות ניהולית עם יציאתו ודרכו של היוצר שלה, סם אלטמן.
כאילו לא די בכך, התגלה מידע שזמן קצר לפני ה פיטוריו של אלטמן, שהוחזר מאז לתפקידו, קיבל דירקטוריון החברה דיווח מדאיג.
ראה עוד
נסטלה מכריזה על גיוון של קו Chamyto Box בצפון מזרח
בקרוב, Vivo תציע חיבור 5G דרך אינטרנט קבוע; יודע יותר!
במסמך, החוקרים הצביעו על תוכנית בינה מלאכותית בשם Q*, או Q-Star, שנמצאת שפותח במקביל, עלול להוות סיכון רציני ליציבות האנושות בארץ עתיד.
לפי סוכנות הידיעות רויטרס, שפרסמה את המידע הזה, Q* משתמשת בכוח חישוב נרחב כדי לענות על שאלות מתמטיות ברמה בסיסית.
במבט ראשון, החוקרים שפיתחו את הטכנולוגיה התלהבו מה עובדה שהיא יכולה לענות על שאלות תוך זמן קצר יחסית ומלא אוטונומי.
עם זאת, הסכנה שהבינה המלאכותית החדשה הזו מייצגת אינה טמונה בהמשגה בסיסית זו. אחרי הכל, אפילו מחשבונים פשוטים יכולים לבצע פעולות מתמטיות פחות מסובכות.
מה שבאמת הדאיג מומחים הוא הדרך שבה Q-Star מגיבה לשאלותיהם. במקום להשתמש בדפוסי חישוב סטטיים, כמו הקודים הבינאריים של מחשבונים קונבנציונליים, בינה מלאכותית משתמשת בתבניות ייחודיות בכל תשובה שהיא נותנת.
במילים אחרות, Q* יכול לתת כמה תשובות שונות לכל שאלה שמוצבת לפניה, מה שמותיר מקום ל"המצאות" ואפילו למתן נתונים מטעים.
(תמונה: Freepik/רפרודוקציה)
למרות הרעש הנוכחי, התנהגות זו שנצפתה ב-Q-Star אינה חדשה בעולם הבינה המלאכותית.
צ'אטבוטים חכמים אחרים, כולל שלך ChatGPT, כבר "נתפסו על חם" בכשלים שנבעו משיטת האימון שלהם.
באופן כללי, AIs מאומנים להיות בדיוק כמו מוח אנושי. במילים אחרות, הם צריכים לנתח את המידע שניתן להם כדי לנסות לזהות דפוסים ולעבוד עליהם. ההיגיון הזה הוא שמאפשר לנו, בני האדם, ללמוד ולהעביר ידע הלאה.
עם זאת, האצלת כוח "היגיון" כזה למכונות עלולה ליצור תקדים מסוכן לסוג של "מרד" נגד האנושות.
הסיבה לכך היא ששום דבר לא מונע מבינה מלאכותית להסיק, באמצעות ניתוח של דפוסים כל, שהאנושות היא איום, או שצריך לחסל אדם מסוים, בשביל דוגמא.
גרוע מזה, AIs יכולים לשמש פושעים לביצוע פשעים, להתערב בהחלטות פוליטיות ומסחריות, להכתים תמונות של אנשים וכו'.
כדי "ללכלך" את התמונה של אדם מסוים, פשוט ספק ל-AI מידע שלילי על אותו אדם. מצד שני, צ'אטבוטים כמו ChatGPT יכולים לקבל הוראה בדרך כלשהי להשפיע על אנשים לדבוק בהיבט פוליטי זה או אחר.
ככל שהבינה המלאכותית מתקדמת ומתפשטת על פני כל מגזרי החברה, דאגות לגבי השימוש האתי והשלו בה צריכות להיות במרכז הדיון.
המטרה של בינה מלאכותית צריכה להיות להניע את האנושות לרמה הבאה שלה, לא לעזור לפושעים או לשמש כנשק כדי לערער עוד יותר את היציבות ביחסים אנושיים.
בוגר לימודי היסטוריה וטכנולוגיית משאבי אנוש. נלהב מכתיבה, כיום הוא חי את החלום לעבוד בצורה מקצועית ככותב תוכן אינטרנט, כתיבת מאמרים בכמה נישות ופורמטים שונים.
