A OpenAI, ChatGPT-ova matična tvrtka, suočava se s danima administrativne nestabilnosti s dolascima i odlascima svog tvorca, Sama Altmana.
Kao da to nije dovoljno, u javnost je izašla informacija da je nešto prije otpuštanjem Altmana, koji je u međuvremenu vraćen na posao, upravni odbor tvrtke dobio je izvješće alarmantan.
vidi više
Nestlé najavljuje diverzifikaciju linije Chamyto Box na sjeveroistoku
Vivo će uskoro nuditi 5G vezu putem fiksnog interneta; znati više!
U dokumentu, istraživači su istaknuli da program umjetne inteligencije nazvan Q*, ili Q-Star, koji se razvijao paralelno, mogao predstavljati ozbiljan rizik za stabilnost čovječanstva u budućnost.
Prema novinskoj agenciji Reuters, koja je objavila ovu informaciju, Q* koristi veliku računsku snagu kako bi u osnovi odgovorio na matematička pitanja temeljne razine.
Na prvi pogled, istraživači koji razvijaju tehnologiju bili su uzbuđeni činjenica da na pitanja može odgovoriti u relativno kratkom vremenu i potpuno autonomna.
Međutim, opasnost koju ova nova umjetna inteligencija predstavlja ne leži u ovoj osnovnoj konceptualizaciji. Uostalom, čak i jednostavni kalkulatori mogu izvoditi manje komplicirane matematičke operacije.
Ono što je stvarno zabrinulo stručnjake je način na koji Q-Star odgovara na njihova pitanja. Umjesto korištenja statičkih obrazaca izračuna, poput binarnih kodova konvencionalnih kalkulatora, AI koristi jedinstvene obrasce u svakom odgovoru koji daje.
Drugim riječima, Q* može dati nekoliko različitih odgovora na svako postavljeno pitanje, što ostavlja prostora za „izmišljotine“, pa čak i davanje pogrešnih podataka.
(Slika: Freepik/reprodukcija)
Unatoč trenutnoj fanfari, ovakvo ponašanje uočeno u Q-Staru nije novost u svijetu umjetne inteligencije.
Drugi inteligentni chatbotovi, uključujući i vaš vlastiti ChatGPT, već su "uhvaćeni na djelu" u neuspjesima proizašlim iz vlastite metode treniranja.
Općenito govoreći, umjetna inteligencija je istrenirana da bude točno poput ljudskog mozga. Drugim riječima, trebaju analizirati informacije koje su im dane kako bi pokušali identificirati obrasce i raditi na njima. Upravo ta logika omogućuje nama, ljudskim bićima, da učimo i prenosimo znanje.
Međutim, delegiranje takve moći "rasuđivanja" strojevima moglo bi postaviti opasan presedan za neku vrstu "pobune" protiv čovječanstva.
To je zato što ništa ne sprječava Umjetnu inteligenciju da zaključi, kroz analizu obrazaca bilo koje, da je čovječanstvo prijetnja, ili da određenu osobu treba eliminirati, za primjer.
Još gore od toga, kriminalci mogu koristiti umjetnu inteligenciju za počinjenje zločina, uplitanje u političke i komercijalne odluke, okaljanje imidža ljudi itd.
Da biste "prljali" sliku određene osobe, jednostavno dajte AI negativne informacije o toj osobi. S druge strane, chatbotovi poput ChatGPT-a mogu biti upućeni na neki način da utječu na ljude da se pridržavaju ovog ili onog političkog aspekta.
Kako umjetna inteligencija napreduje i širi se u svim sektorima društva, zabrinutost oko njezine etičke i miroljubive upotrebe mora biti u središtu rasprave.
Cilj umjetne inteligencije trebao bi biti pomaknuti čovječanstvo na sljedeću razinu, a ne pomagati kriminalcima ili služiti kao oružje za daljnju destabilizaciju ljudskih odnosa.
Diplomirala povijest i tehnologiju ljudskih resursa. Strastven prema pisanju, danas živi san o profesionalnom radu kao pisac web sadržaja, pišući članke u nekoliko različitih niša i formata.