A OpenAI, materská spoločnosť ChatGPT, čelí dňom administratívnej nestability s príchodom a odchodom svojho tvorcu Sama Altmana.
Akoby toho nebolo dosť, na povrch vyšla informácia, že krátko pred r odvolaní Altmana, ktorý bol medzitým vrátený do funkcie, dostalo správu predstavenstvo spoločnosti alarmujúce.
pozrieť viac
Nestlé oznamuje diverzifikáciu línie Chamyto Box na severovýchode
Vivo čoskoro ponúkne 5G pripojenie cez pevný internet; vedieť viac!
V dokumente výskumníci poukázali na to, že existuje program AI s názvom Q* alebo Q-Star paralelne vyvinuté, by mohlo predstavovať vážne riziko pre stabilitu ľudstva v budúcnosti.
Podľa tlačovej agentúry Reuters, ktorá túto informáciu zverejnila, Q* využíva rozsiahlu výpočtovú silu, aby v podstate odpovedal na základné matematické otázky.
Na prvý pohľad boli výskumníci vyvíjajúci technológiu nadšení že dokáže odpovedať na otázky v relatívne krátkom čase a úplne autonómny.
Nebezpečenstvo, ktoré táto nová umelá inteligencia predstavuje, však nespočíva v tejto základnej konceptualizácii. Veď aj jednoduché kalkulačky dokážu vykonávať menej komplikované matematické operácie.
To, čo odborníkov skutočne znepokojilo, je spôsob, akým Q-Star odpovedá na ich otázky. Namiesto použitia statických výpočtových vzorov, ako sú binárne kódy konvenčných kalkulačiek, AI používa jedinečné vzory v každej odpovedi, ktorú dáva.
Inými slovami, Q* môže dať niekoľko rôznych odpovedí na každú otázku, ktorá je pred ním položená, čo ponecháva priestor pre „vynálezy“ a dokonca aj pre poskytovanie zavádzajúcich údajov.
(Obrázok: Freepik/reprodukcia)
Napriek súčasným fanfáram nie je toto správanie pozorované na Q-Star vo svete umelej inteligencie novinkou.
Iné inteligentné chatboty vrátane vašich vlastných ChatGPT, už boli „prichytení“ pri zlyhaniach vyplývajúcich z ich vlastnej tréningovej metódy.
Vo všeobecnosti sú AI trénované tak, aby boli presne ako ľudský mozog. Inými slovami, potrebujú analyzovať informácie, ktoré im boli poskytnuté, aby sa pokúsili identifikovať vzorce a pracovať na nich. Práve táto logika nám, ľuďom, umožňuje učiť sa a odovzdávať vedomosti.
Delegovanie takejto „rozumovej“ sily na stroje by však mohlo vytvoriť nebezpečný precedens pre určitý druh „rebélie“ proti ľudskosti.
Je to preto, že nič nebráni umelej inteligencii dospieť k záveru prostredníctvom analýzy vzorcov akýkoľvek, že ľudskosť je hrozbou, alebo že treba zlikvidovať určitú osobu, napr príklad.
Horšie je, že AI môžu zločinci použiť na páchanie trestných činov, zasahovanie do politických a komerčných rozhodnutí, kazenie obrazu ľudí atď.
Ak chcete „zašpiniť“ obraz určitej osoby, jednoducho poskytnite AI negatívne informácie o tejto osobe. Na druhej strane, chatboti ako ChatGPT môžu byť nejakým spôsobom inštruovaní, aby ovplyvnili ľudí, aby dodržiavali ten alebo ten politický aspekt.
Keďže umelá inteligencia napreduje a rozširuje sa vo všetkých sektoroch spoločnosti, stredobodom diskusie musia byť obavy týkajúce sa jej etického a mierového využívania.
Cieľom AI by malo byť posunúť ľudstvo na ďalšiu úroveň, nie pomáhať zločincom alebo slúžiť ako zbraň na ďalšiu destabilizáciu medziľudských vzťahov.
Vyštudoval históriu a technológiu ľudských zdrojov. S vášňou pre písanie dnes žije sen o profesionálnej práci ako spisovateľ webového obsahu, písaním článkov v niekoľkých rôznych oblastiach a formátoch.