כמה מדענים מפורסמים, כמו סטיבן הוקינג עצמו, כבר חזו את הסיכונים שבינה מלאכותית עלולה להוות לבני אדם. לא רק הוקינג, אלא גם אנשי עסקים גדולים במגזר הטכנולוגיה הביעו דאגה מהתקדמות הבינה המלאכותית.
כדוגמה לכך, סטיב ווזניאק, מייסד שותף של אפל, אילון מאסק ומאות טייקוני טכנולוגיה אחרים חתמו על מכתב כדי לבקש זהירות בהתקדמות בתחום זה.
ראה עוד
גוגל מפתחת כלי בינה מלאכותית כדי לעזור לעיתונאים ב...
אייפון מקורי 2007 שלא נפתח נמכר בכמעט 200,000 דולר; לָדַעַת...
ראה גם: האדם טוען שכתב 100 ספרים בעזרת בינה מלאכותית
בקיצור, אחת ההנחות שמציינים האזעקה היא שאפשר לפתח בינה מלאכותית עד כדי רכישת תודעה. למרות שאפילו הפילוסופיה המשובחת ביותר אינה יודעת להגדיר בדיוק מהי תודעה כזו, ידוע שבשלב זה מכונה תבין מי היא ומה תפקידה בעולם.
זה יהיה בנקודה זו שבינה מלאכותית יכולה לנקוט עמדות רעות כלפי בני אדם. די לה להבין שאנשים מהווים בעיה לקיומו של הפלנטה ולעצם הקביעות של מכונות, למשל.
דן הנדריקס, מנהל המרכז לבטיחות בינה מלאכותית, הזהיר כי ישנם "מסלולים מרובים" ל"סיכונים בקנה מידה אנושי של בינה מלאכותית". כך לפי מאמר שפרסם העיתון "דיילי סטאר".
המומחה אף אומר כי צורות מתקדמות יותר של בינה מלאכותית "יכולות לשמש שחקנים זדוניים כדי לעצב כלי נשק ביולוגיים חדשים שהם קטלניים יותר ממגיפות טבעיות".
ובכן, אין להכחיש שזו תהיה דרך יעילה מאוד להשמיד בני אדם על פני כדור הארץ. רק תסתכל על מגיפת Covid-19 האחרונה. איומים אלו קיימים אפילו בתוך מספר מעבדות. עַצמוֹ נגיף של כלבת, אם היא סובלת ממוטציה בודדת, שגרמה לה להעביר אותה באוויר, היא תגיע לבני אדם במהירות וביעילות.
בעולם יותר ויותר מחובר ודיגיטלי, זה הגיוני לחלוטין לדמיין שבינה מלאכותית יכולה להזמין חומרי גלם לפתח נשק ביולוגי קטלני.
זה ההימור שכמה מומחים עושים, לפי העיתון שצוטט לעיל. הם מאמינים שזו תהיה דרך לשמר מכונות כשהן מצליחות לפתח רגשות אנושיים.
"בזכות מהפכה טכנולוגית בהנדסה גנטית, כל הכלים הדרושים ליצירת וירוס הפכו כל כך זולים, פשוטים ופשוטים. זמינים שכל מדען נוכל או ביוהאקר בגיל המכללה יכול להשתמש בהם, וליצור איום גדול עוד יותר", אמר דן הנדריקס.
מנגד, ישנם אנליסטים שאינם רואים סיכונים כמו אלו שהוזכרו לעיל. עבורם, זה די מורכב לנתח שבינה מלאכותית מסוגלת להתפתח בדומה לתהליכים נפשיים אנושיים.
לפי זרם המחשבה הזה, זו לא תהיה דרך הגיונית לחשוב על האפשרויות הטובות ביותר. בשביל זה, מפתחים יצטרכו ליצור אלגוריתם שמחקה את דרך החשיבה וההרגשה של אנשים, דבר שכרגע לא בא בחשבון.
יתר על כן, עבור אנשים אלה, בינה מלאכותית תבין שכדי להימנע מבעיות, הדבר הטוב ביותר לעשות יהיה פשוט לא להתקיים. לפיכך, אין נטייה לשרוד כמו ב בעלי חיים, אלא לחפש את הדרך לפתור בעיות.
