Umelá inteligencia môže ohroziť ľudstvo, tvrdí český odborník
Experti čoraz častejšie varujú, že existuje reálna šanca, že umelá inteligencia v priebehu nasledujúcich rokov vyhubí ľudstvo, ak sa nespomalí jej vývoj. Český popularizátor AI, spisovateľ a podnikateľ Petr Ludwig potvrdzuje, že nejde len o reči alarmistov, ale o hrozbu, ktorú berú vážne aj zakladatelia tejto technológie a šéfovia najväčších technologických firiem.
Podľa Ludwiga je vývoj taký raketový, že už o pol roka môže byť všetko inak. Pripomína, že varovania neprichádzajú len od alarmistov, ale napríklad aj od Geoffreyho Hintona, nositeľa Nobelovej ceny za fyziku a jedného z otcov súčasnej umelej inteligencie, ktorý hovorí o 10 až 20-percentnej pravdepodobnosti a patrí k optimistom.
Ludwig prirovnáva umelú inteligenciu k drakovi z fantasy románov. Štát, ktorý bude disponovať dátovými centrami a pokročilou AI, získa obrovskú konkurenčnú výhodu aj na budúcom bojisku. Zároveň však drak občas spáli aj mestá vlastných majiteľov.
Obrovským problémom sú podľa neho čínske takzvané open-weight modely, ktoré sú úplne neregulované. Ktokoľvek si môže stiahnuť najpokročilejší čínsky model, ktorý zaostáva za najlepšími americkými len o štyri až šesť mesiacov, a spustiť autonómnych agentov, ktorí už dnes dokážu hacknúť kritickú infraštruktúru.
Ludwig upozorňuje, že riziko prehlbovania rozdielov medzi bohatými a chudobnými existuje, najmä v Amerike. Európa má výhodu aj nevýhodu zároveň – nemá tu veľa dátových centier ani pokročilých jazykových modelov. Európsky Mistral sa nachádza približne na 20. mieste na svete.
Pre Európu je to podľa neho veľký budíček. Mali by sme presunúť dátové centrá do Európy a pristupovať k nim ako ku kritickej infraštruktúre, podobne ako chceme mať vlastnú jadrovú elektráreň a nenakupovať všetku energiu zo zahraničia.
V súvislosti s blížiacimi sa parlamentnými voľbami na Slovensku očakáva nárast takzvaných deepfake AI videí. Pri dnešných najpokročilejších nástrojoch bežný človek už nespozná, že ide o vygenerovaný obsah. Detaily ako kvalita pokožky či odlesky sú úplne dokonalé.
Za kľúčové považuje celosvetové pravidlá pre AI, podobne ako pri jadrovej energii či jadrových zbraniach. Veľmoci musia zregulovať samy seba. Dôvod, prečo dnes riaditelia veľkých AI firiem sami volajú po regulácii, je ten, že si uvedomujú: ak spomalí len jeden z nich, prehrá preteky v zbrojení.
Ludwig sa stavia proti úplnému zastaveniu vývoja, no podporuje spomalenie a zavedenie medzinárodného dohľadu. Pokročilé AI modely by mali byť auditovateľné a mali by prejsť obdobím, kedy ich medzinárodné inštitúcie otestujú.
Podľa jeho odhadu sme tak na 95 percentách všeobecnej umelej inteligencie. Nezostáva už takmer nič, čo by AI nedokázala, a veľmi rýchlo ju dosiahneme. Nepôjde však o čiernobielu hranicu, ale o plynulý prechod.
