Poslanci Európskeho parlamentu (EP) v stredu (14. 6.) schválili návrh pravidiel pre fungovanie umelej inteligencie (AI). Mohla by sa stať prvou reguláciou tohto odvetvia na svete. Napríklad generatívne systémy AI, ako je potrebné ChatGPT, budú musieť byť podľa nových pravidiel označené tak, aby bolo jasné, že obsah vytvorený umelou inteligenciou.
Vzniknúť má tiež úrad EÚ pre AI, ktorý má popri národných kontrolných úradoch na dodržiavanie nových pravidiel dohliadať. Finálnu verziu regulácie teraz dojedná parlament s členskými krajinami EÚ.
Asi najväčší spor sa v EP viedol o používanie AI k biometrickému sledovaniu v reálnom čase, teda použitie systémov na rozpoznávanie tvárí cez kamerové systémy na verejnosti. Niektorí europoslanci, napríklad z českej strany Piráti, sa obávajú zneužitia AI v tejto oblasti autoritatívnymi režimami.
„Tu sa stretáva otázka súkromia a bezpečnosti,“ povedala novinárom v Štrasburgu podpredsedníčka EP Dita Charanzová. „Systém rozpoznávania tvárí potrebujeme využiť napríklad pri únosoch detí či pri hrozbe teroristických útokov,“ dodala.
Podľa Charanzovej únijné pravidlá nastavením mantinelov v AI tiež dávajú „jasné zadanie vývojárom, aby cítili tiež zodpovednosť za to, čo vytvárajú“.
Únijné pravidlá pre reguláciu vznikali zhruba dva roky. Postupne sa rozširovali, napríklad o pravidlá pre ChatGPT.
Povinnosť transparentnosti
AI dokážu byť také presvedčivé, že bežný užívateľ internetu ani nepozná, že hovorí s umelou inteligenciou. Práve preto pravidlá Únie zahŕňajú povinnosť transparentnosti, teda aby užívateľ poznal, že ide o systém umelej inteligencie.
Návrh pravidiel prijatý v stredu europoslancami tiež určuje takzvané vysoko rizikové odvetvia, v ktorých budú pre AI platiť prísnejšie pravidlá, sú nimi napríklad súdnictvo či niektoré oblasti školstva.
V školstve sa má podľa europoslanca Marcela Kolaja obmedzenie týkať napríklad takzvaného e-proctoring, pomocou ktorého môžu školy kontrolovať, či študenti nepodvádzajú pri skúškach online. Za vysoko rizikové považuje EP aj používanie umelej inteligencie na ovplyvňovanie voličov.
Úplne sa majú zakázať nástroje AI na rozpoznávanie emócií v prípade presadzovania práva, správy hraníc či na pracovisku a v školách, zákaz neplatí to na lekárske a výskumné účely. Nové pravidlá tiež zakazujú systémy takzvanej prediktívnej policajnej práce.
Tie totiž môžu viesť napríklad k diskriminácii menšín. Zakážu sa aj programy, ktoré automaticky triedia občanov na základe pohlavia, zdravotného stavu alebo sexuálnej orientácie.
AI budú musieť registrovať
Poskytovatelia základných modelov AI sa tiež budú musieť registrovať do databázy EÚ. Taktiež budú musieť zverejniť súhrn dát chránených autorským právom, na ktorých sa ich systémy učili. EP podporuje aj takzvané regulačné pieskovisko zriadené verejnými orgánmi, kde možno AI pred jej uvedením do prevádzky testovať.
Akt o umelej inteligencii prináša tiež pravidlá pre programy typu ChatGPT. Ich prevádzkovatelia sa budú musieť registrovať do databázy. V nej, okrem iného, uvedú, odkiaľ čerpajú údaje, z ktorých sa program učí.
Obavy, že systémy umelej inteligencie „prechytračia“ ľudstvo, vyjadrili v posledných týždňoch viacerí predstavitelia tohto odvetvia, vrátane Sama Altmana, šéfa spoločnosti OpenAI, ktorá vyvinula chatovacieho robota ChatGPT, či Geoffreyho Hintona, ktorému sa prezýva „krstný otec umelej inteligencie“.
Altman napríklad navrhol, aby na AI dohliadala organizácia podobná Medzinárodnej agentúre pre atómovú energiu.
