A OpenAIChatGPT'nin ana şirketi olan, yaratıcısı Sam Altman'ın geliş gidişleri nedeniyle günlerce süren idari istikrarsızlıkla karşı karşıyadır.
Bu da yetmezmiş gibi, olaydan kısa bir süre önce şöyle bir bilgi ortaya çıktı: Daha sonra yeniden göreve getirilen Altman'ın görevden alınmasının ardından şirketin yönetim kurulu bir rapor aldı endişe verici.
daha fazla gör
Nestlé, Kuzeydoğu'daki Chamyto Box hattını çeşitlendirdiğini duyurdu
Vivo yakında sabit internet üzerinden 5G bağlantısı sunacak; daha fazlasını bil!
Belgede araştırmacılar, Q* veya Q-Star adlı bir yapay zeka programının geliştirilmekte olduğuna dikkat çekti. paralel olarak gelişen bu durum insanlığın istikrarı açısından ciddi bir risk oluşturabilir. gelecek.
Bu bilgiyi yayınlayan Reuters haber ajansına göre Q*, temelde temel düzeydeki matematik sorularına yanıt vermek için kapsamlı hesaplama gücü kullanıyor.
İlk bakışta teknolojiyi geliştiren araştırmacılar, sorulara nispeten kısa sürede ve eksiksiz cevap verebilmesi özerk.
Ancak bu yeni Yapay Zekanın temsil ettiği tehlike bu temel kavramsallaştırmada yatmıyor. Sonuçta, basit hesap makineleri bile daha az karmaşık matematiksel işlemleri gerçekleştirebilir.
Uzmanları gerçekten alarma geçiren şey, Q-Star'ın sorularına verdiği yanıttı. Yapay zeka, geleneksel hesap makinelerinin ikili kodları gibi statik hesaplama modellerini kullanmak yerine, verdiği her yanıtta benzersiz modeller kullanır.
Yani Q*, önüne konulan her soruya birkaç farklı yanıt verebiliyor, bu da “icatlara” ve hatta yanıltıcı verilerin sağlanmasına yer açıyor.
(Resim: Freepik/reprodüksiyon)
Mevcut tantanalara rağmen Q-Star'da gözlemlenen bu davranış Yapay Zeka dünyasında yeni değil.
Sizinki de dahil olmak üzere diğer akıllı sohbet robotları SohbetGPT, kendi eğitim yöntemlerinden kaynaklanan başarısızlıklarda zaten "suçüstü yakalandılar".
Genel olarak konuşursak, yapay zekalar tam olarak insan beyni gibi olacak şekilde eğitilmiştir. Başka bir deyişle, kalıpları belirlemeye çalışmak ve bunlar üzerinde çalışmak için kendilerine verilen bilgileri analiz etmeleri gerekir. Biz insanların öğrenmesini ve bilgiyi aktarmasını sağlayan da bu mantıktır.
Ancak makinelere bu tür bir "akıl yürütme" gücü devretmek, insanlığa karşı bir tür "isyan" için tehlikeli bir emsal teşkil edebilir.
Bunun nedeni, Yapay Zekanın kalıpların analizi yoluyla sonuca varmasını hiçbir şeyin engellememesidir. insanlığın bir tehdit olduğu veya belirli bir kişinin ortadan kaldırılması gerektiği, örnek.
Daha da kötüsü yapay zekalar suçlular tarafından suç işlemek, siyasi ve ticari kararlara müdahale etmek, insanların imajını lekelemek vb. için kullanılabilir.
Belirli bir kişinin imajını "kirletmek" için yapay zekaya o kişi hakkında olumsuz bilgiler vermeniz yeterlidir. Öte yandan, ChatGPT gibi sohbet robotlarına, insanları şu veya bu siyasi yöne bağlı kalma konusunda etkilemek üzere bir şekilde talimat verilebilir.
Yapay Zeka ilerledikçe ve toplumun tüm sektörlerine yayıldıkça, onun etik ve barışçıl kullanımına ilişkin endişelerin tartışmanın merkezinde olması gerekiyor.
Yapay zekanın amacı, suçlulara yardım etmek veya insan ilişkilerini daha da istikrarsızlaştıracak bir silah olarak hizmet etmek değil, insanlığı bir sonraki seviyeye taşımak olmalıdır.
Tarih ve İnsan Kaynakları Teknolojisi mezunu. Yazma konusunda tutkulu, bugün bir Web İçeriği Yazarı olarak profesyonel olarak çalışmanın hayalini yaşıyor, birçok farklı niş ve formatta makaleler yazıyor.