Niekoľko výskumných pracovníkov americkej spoločnosti OpenAI pred odvolaním šéfa podniku Sama Altmana správnu radu v liste varovalo pred prelomovým objavom v oblasti umelej inteligencie (AI), ktorý by podľa nich mohol ohroziť ľudstvo.
S odvolaním sa na dva informované zdroje to vo štvrtok (23. 11.) uviedla agentúra Reuters. List a objav podľa nich boli kľúčovými momentmi pred tým, ako správna rada Altmana minulý týždeň v piatok (17. 11.) prekvapivo odvolala. Autori listu na žiadosť o komentár nereagovali.
Altman po prepustení prešiel do Microsoftu, ktorý firmu OpenAI podporuje. Keď ale väčšina zamestnancov OpenAI pohrozila odchodom, ak sa Altman do šéfovského kresla nevráti, veci nabrali nový spád.
Za jeho návrat do čela OpenAI lobovali aj významní investori. Altman sa tak v utorok (21. 11.) po búrlivom vývoji do čela firmy vrátil. Spoločnosť OpenAI vyvinula populárny nástroj ChatGPT.
Zdroje uviedli, že list bol jedným z faktorov, ktoré viedli k Altmanovmu odvolaniu. Ďalším dôvodom podľa nich boli obavy z komerčného využitia objavu pred pochopením jeho dôsledkov.
Spoločnosť OpenAI vec nekomentovala. V internom liste zamestnancom potvrdila projekt nazvaný Q* (skratka pre Q Star) aj spomínaný list výskumníkov správnej rade, uviedol jeden zo zdrojov.
Riešenie matematických úloh
Niektorí zamestnanci OpenAI sa domnievajú, že projekt Q* by mohol byť prelomom v hľadaní takzvanej všeobecnej umelej inteligencie (AGI), povedal jeden z nich. OpenAI definuje AGI ako autonómne systémy, ktoré prekonajú človeka vo väčšine ekonomicky hodnotných úloh.
Nový model bol podľa toho istého zdroja schopný riešiť určité matematické úlohy. Výskumníci považujú matematiku za hranicu vývoja generatívnej umelej inteligencie. V súčasnosti je generatívna AI dobrá v písaní a preklade jazyka tým spôsobom, že štatisticky predpovedá ďalšie slovo.
Odpovede na rovnakú otázku sa môžu pritom značne líšiť. Ovládnutie matematiky, kde existuje iba jedna správna odpoveď, by znamenalo, že by AI mala väčšie schopnosti uvažovania pripomínajúce ľudskú inteligenciu. To by sa mohlo uplatniť napríklad v novom vedeckom výskume, domnievajú sa odborníci.
Na rozdiel od kalkulačky, ktorá dokáže riešiť obmedzený počet operácií, dokáže AGI zovšeobecňovať, učiť sa a chápať. V liste správnej rade výskumníci upozornili na schopnosti a potenciálne nebezpečenstvo AI, uviedli zdroje.
