OSN varuje pred existenčnými rizikami AI, vyzýva na okamžitú reguláciu
Vysoký komisár OSN pre ľudské práva Volker Türk v pondelok vyzval štáty a popredné technologické firmy vyvíjajúce umelú inteligenciu (AI), aby urýchlene zakročili a dostali pod kontrolu túto technológiu, ktorá podľa neho predstavuje „bezprecedentné riziká“.
Türk tvrdí, že ľudstvo stojí na prahu nezvratných civilizačných zmien, a žiada globálnu reguláciu pokročilej umelej inteligencie založenú na ľudskoprávnom medzinárodnom práve.
V liste adresovanom vládam a vývojárom AI, ktorý bol poskytnutý aj médiám, Türk varoval, že svet sa nachádza „na prahu nezvratných zmien, ktoré ovplyvnia nielen nás, ale aj budúce generácie ľudstva“.
AI a existenčné riziká
„Súčasné preteky v budovaní čoraz výkonnejšej AI znamenajú zásadný posun smerom k väčším existenčným rizikám pre každú oblasť nášho života,“ uviedol vysoký komisár OSN pre ľudské práva. Svoj list zaslal v čase stupňujúcich sa obáv z rizík spojených so „superinteligentnými“ počítačovými systémami.
Tie nedávno vyvolali rozruch po tom, čo jeden z výskumníkov poprednej AI spoločnosti Anthropic verejne rezignoval pre obavy, že by sa technológia mohla vymknúť spod ľudskej kontroly. Ďalší zamestnanec spoločnosti Anthropic, ktorý z funkcie neodstúpil, verejne vyhlásil: „Naozaj úprimne veríme, že AI by mohla vyhladiť celé ľudstvo.“ Podľa jeho slov je pravdepodobnosť tohto scenára v nasledujúcom desaťročí „vyššia než desať percent“.
Výzva na spomalenie vývoja
V reakcii na narastajúcu kritiku generálny riaditeľ spoločnosti Anthropic Dario Amodei v sobotu vyzval firmy zamerané na AI, aby „spomalili vývoj na technologickej hranici“ – teda aby skoordinovali tempo rastu. Jeho kľúčoví konkurenti, Elon Musk (xAI) a Sam Altman (OpenAI), mu v tom vyjadrili verejnú podporu.
„V dnešnom svete sme takmer úplne odkázaní na malý počet vplyvných korporácií, že urobia správne rozhodnutia vo vývoji AI v prospech celého ľudstva,“ vyjadril sa Türk.
Výzva na reguláciu AI
„Vyzývam štáty a firmy, aby sa urýchlene mobilizovali na multilaterálnych fórach a spoločne načrtli kroky na reguláciu pokročilých, priekopníckych modelov AI, ktoré budú pevne zakotvené v medzinárodnom práve v oblasti ľudských práv,“ uzavrel vysoký komisár OSN.
