A OpenAI, ChatGPT: s moderbolag, står inför dagar av administrativ instabilitet på grund av dess skapare, Sam Altman, som kommer och går.
Som om det inte vore nog, kom information fram som kort innan uppsägning av Altman, som sedan har återställts, fick bolagets styrelse en anmälan oroväckande.
se mer
Nestlé tillkännager diversifiering av Chamyto Box-linjen i nordost
Snart kommer Vivo att erbjuda 5G-anslutning via fast internet; veta mer!
I dokumentet påpekade forskare att ett AI-program som heter Q*, eller Q-Star, som håller på att finnas utvecklas parallellt, kan utgöra en allvarlig risk för mänsklighetens stabilitet i framtida.
Enligt nyhetsbyrån Reuters, som släppte denna information, använder Q* omfattande beräkningskraft för att i princip svara på matematiska frågor på grundläggande nivå.
Vid första anblicken var forskarna som utvecklade tekniken entusiastiska över faktum att hon kan svara på frågor på relativt kort tid och fullständigt autonom.
Faran som denna nya artificiella intelligens representerar ligger dock inte i denna grundläggande konceptualisering. Trots allt kan även enkla miniräknare utföra mindre komplicerade matematiska operationer.
Det som verkligen skrämde experter är hur Q-Star svarar på deras frågor. Istället för att använda statiska beräkningsmönster, som de binära koderna för konventionella miniräknare, använder AI unika mönster i varje svar den ger.
Q* kan med andra ord ge flera olika svar på varje fråga som ställs framför sig, vilket ger utrymme för "uppfinningar" och till och med tillhandahållande av vilseledande data.
(Bild: Freepik/reproduktion)
Trots den nuvarande fanfaren är detta beteende som observerats på Q-Star inte nytt i världen av artificiell intelligens.
Andra intelligenta chatbots, inklusive din egen ChatGPT, har redan blivit "på bar gärning" i misslyckanden som härrör från deras egen träningsmetod.
Generellt sett är AI: er tränade för att vara exakt som en mänsklig hjärna. De behöver med andra ord analysera informationen som ges till dem för att försöka identifiera mönster och arbeta med dem. Det är denna logik som gör att vi människor kan lära oss och förmedla kunskap.
Men att delegera sådan "resonemang" till maskiner kan skapa ett farligt prejudikat för ett slags "uppror" mot mänskligheten.
Detta beror på att ingenting hindrar en artificiell intelligens från att avsluta, genom en analys av mönster någon, att mänskligheten är ett hot, eller att en viss person behöver elimineras, för exempel.
Värre än så kan AI: er användas av kriminella för att begå brott, blanda sig i politiska och kommersiella beslut, smutskasta människors bilder osv.
För att "smutsa ner" bilden av en viss person, förse helt enkelt AI med negativ information om den personen. Å andra sidan kan chatbots som ChatGPT instrueras på något sätt att påverka människor att hålla sig till den eller den politiska aspekten.
När artificiell intelligens utvecklas och sprids över alla samhällssektorer måste oro kring dess etiska och fredliga användning stå i centrum för diskussionen.
Målet med AI borde vara att driva mänskligheten till nästa nivå, inte att hjälpa kriminella eller tjäna som ett vapen för att ytterligare destabilisera mänskliga relationer.
Examen i historia och personalteknik. Brinner för att skriva, lever han idag drömmen om att arbeta professionellt som Web Content Writer, skriva artiklar i flera olika nischer och format.