A OpenAI, mateřská společnost ChatGPT, čelí dnům administrativní nestability s příchody a odchody svého tvůrce Sama Altmana.
Jako by to nestačilo, vyšla na povrch informace, že krátce před odvolání Altmana, který byl mezitím obnoven, obdrželo představenstvo společnosti zprávu alarmující.
vidět víc
Nestlé oznamuje diverzifikaci řady Chamyto Box na severovýchodě
Vivo brzy nabídne 5G připojení přes pevný internet; Vědět více!
V dokumentu výzkumníci poukázali na to, že existuje program AI s názvem Q* nebo Q-Star paralelně vyvinuté, by mohlo představovat vážné riziko pro stabilitu lidstva v budoucnost.
Podle tiskové agentury Reuters, která tyto informace zveřejnila, Q* využívá rozsáhlý výpočetní výkon k tomu, aby v podstatě odpovídal na základní matematické otázky.
Na první pohled byli výzkumníci vyvíjející technologii nadšeni že dokáže odpovědět na otázky v relativně krátkém čase a úplně autonomní.
Nebezpečí, které tato nová umělá inteligence představuje, však nespočívá v této základní konceptualizaci. Ostatně i jednoduché kalkulačky dokážou provádět méně komplikované matematické operace.
Co skutečně znepokojilo odborníky, je způsob, jakým Q-Star reaguje na jejich otázky. Namísto použití statických vzorců výpočtu, jako jsou binární kódy konvenčních kalkulaček, používá AI v každé odpovědi jedinečné vzory.
Jinými slovy, Q* může dát několik různých odpovědí na každou otázku, která je před ní položena, což ponechává prostor pro „vynálezy“ a dokonce i pro poskytování zavádějících údajů.
(Obrázek: Freepik/reprodukce)
Navzdory současným fanfárám není toto chování pozorované na Q-Star ve světě umělé inteligence novinkou.
Další inteligentní chatboti, včetně vašich vlastních ChatGPT, již byli „přistiženi při neúspěchu“ při selháních vyplývajících z jejich vlastní tréninkové metody.
Obecně řečeno, AI jsou vycvičeny tak, aby byly přesně jako lidský mozek. Jinými slovy, potřebují analyzovat informace, které jim byly poskytnuty, aby se pokusili identifikovat vzorce a pracovat na nich. Právě tato logika nám, lidským bytostem, umožňuje učit se a předávat znalosti.
Delegování takové „rozumové“ síly na stroje by však mohlo vytvořit nebezpečný precedens pro určitý druh „vzpoury“ proti lidstvu.
Je tomu tak proto, že nic nebrání umělé inteligenci dospět k závěru prostřednictvím analýzy vzorců že lidstvo je hrozbou nebo že určitá osoba musí být odstraněna příklad.
Ještě horší je, že AI mohou zločinci používat k páchání trestných činů, zasahování do politických a obchodních rozhodnutí, kazí obraz lidí atd.
Chcete-li „zašpinit“ obraz určité osoby, jednoduše poskytněte AI negativní informace o této osobě. Na druhou stranu chatboti jako ChatGPT mohou být nějakým způsobem instruováni, aby ovlivnili lidi, aby se drželi toho či onoho politického aspektu.
Vzhledem k tomu, že umělá inteligence postupuje a šíří se napříč všemi sektory společnosti, musí být středem diskuse obavy týkající se jejího etického a mírového využití.
Cílem umělé inteligence by mělo být posunout lidstvo na další úroveň, nikoli pomáhat zločincům nebo sloužit jako zbraň k další destabilizaci lidských vztahů.
Vystudoval historii a technologii lidských zdrojů. S vášní pro psaní dnes žije sen pracovat profesionálně jako Web Content Writer a psát články v několika různých oblastech a formátech.
