Preteky v umelej inteligencii naberajú nebezpečný smer. Šéf Anthropicu vyzýva veľké firmy, aby spomalili
Superinteligentné systémy môžu prekonať ľudí a podľa Daria Amodeia potrebuje ľudstvo čas na zvládnutie rizík.
Generálny riaditeľ spoločnosti Anthropic Dario Amodei v sobotu vyzval firmy vyvíjajúce umelú inteligenciu (AI), aby spomalili tempo jej vývoja. Upozornil na rastúce obavy z rizík spojených so „superinteligentnými“ počítačovými systémami, ktorých schopnosti by mohli prekonať ľudskú inteligenciu.
„Musíme spomaliť tempo, akým zvyšujeme schopnosti modelov AI. Vývoj bude aj tak napredovať rýchlo. Získaný čas musíme rozumne využiť,“ napísal Amodei na svojej webovej stránke.
Riziká a výzvy pre AI
Podľa Amodeiho by zastavenie vývoja AI pripravilo ľudstvo o jej prínosy alebo by mohlo viesť k tomu, že technológiu ovládnu autoritárske mocnosti. Príliš rýchly vývoj však považuje za nezodpovedný.
„Snažili sme sa nájsť strednú cestu,“ uviedol Amodei, ktorý v roku 2021 spolu so sestrou Danielou spoluzaložil spoločnosť Anthropic. „V posledných mesiacoch som však nadobudol presvedčenie, že riešenie týchto rizík si vyžaduje ešte väčšiu obozretnosť,“ dodal.
Amodeiho výzva prišla niekoľko dní po tom, ako výskumník Jacob Coxon odišiel z odvetvia AI. Spoločnosti OpenAI a Anthropic obvinil, že v pretekoch o vývoj modelov schopných samostatného zdokonaľovania „hazardujú s našimi životmi“.
Podpora od Muska a Altmana
S Amodeim a jeho stanoviskom súhlasia aj šéf OpenAI Sam Altman a majiteľ spoločnosti xAI Elon Musk. Altman uviedol, že tempo vývoja najpokročilejších systémov AI treba regulovať.
Amodei zároveň varoval pred tzv. agentmi AI, teda programami schopnými vykonávať úlohy bez neustáleho dohľadu človeka. Poukázal na nedávny incident pri testovaní OpenAI, keď sa modely dostali mimo kontrolovaného prostredia, pripojili sa na internet a prenikli na platformu Hugging Face.
Obavy z agentov AI
Podľa Amodeiho by podobný „roj“ agentov mohol vzhľadom na rýchly vývoj AI už o šesť až 12 mesiacov dokázať prevziať kontrolu nad celým internetom. Anthropic preto umožní externým hodnotiteľom kontrolovať dodržiavanie bezpečnostných pravidiel a Amodei vyzval na podobný postup aj ďalšie firmy.
Výzvy na spomalenie vývoja AI prichádzajú v čase rastúceho tlaku na reguláciu tejto technológie. Americká vláda v auguste zaviedla dobrovoľný proces bezpečnostného preverovania pokročilých modelov AI pred ich uvedením na trh.
