Ľudia nosia na čele kamery, aby naučili roboty žehliť a AI, ktorá uteká „z klietky“
Umelá inteligencia opúšťa obrazovky počítačov a vstupuje do fyzického sveta. Riadi leteckú dopravu, učí sa od ľudí s kamerami na čele a naráža na limity vlastnej autonómie. S rastúcou autonómiou prichádzajú nečakané zlyhania a etické otázky.
Ako sa zbierajú dáta pre humanoidných robotov
Firmy vyvíjajúce umelú inteligenciu prechádzajú do robotiky, kde chýbajú kvalitné tréningové dáta z fyzického sveta. Najímajú ľudí v rozvojových krajinách, napríklad v Indii, ktorí nosia na čele kamery a snímajú bežné činnosti z pohľadu prvej osoby – šitie, žehlenie či umývanie riadu. Roboti sa tak učia logiku pohybov, ktoré ľudia vykonávajú automaticky.
Vznikajú však etické otázky: pracovníci za nízke odmeny odovzdávajú know-how firmám, ktoré môžu ich prácu zautomatizovať. Amazon zároveň nasadzuje inteligentné okuliare pre kuriérov, ktoré pri doručovaní balíkov zaznamenávajú tisíce fotografií. Firma tvrdí, že citlivé údaje anonymizuje, vizuálny materiál však využíva na dotrénovanie modelov.
Umelá inteligencia v kritickej infraštruktúre
Americká Federálna letecká správa začala na letiskách testovať systém SMART, ktorý spája dáta o počasí, letoch a kapacitách letísk a vytvára predikcie preťaženia. Nasadenie AI v kritickej infraštruktúre vyvoláva diskusiu o bezpečnosti – pri chybe hrozia katastrofálne následky. Rizikom sú aj kognitívne skreslenia operátorov, napríklad ukotvenie na prvú informáciu alebo slepá dôvera vo výsledky AI. Systém nemá dispečerov nahradiť, ale pomôcť im spracovať dáta, ktoré človek v reálnom čase nedokáže vyhodnotiť.
Trapasy autonómnych agentov
Spoločnosť Meta predstavila osobného asistenta Muse, ktorý vykonáva autonómne úlohy na pozadí. V praxi sa objavil prípad, keď predávajúci na Facebook Marketplace zveril komunikáciu AI agentovi. Agent dohodol predaj aj čas stretnutia a kupujúcemu poslal adresu majiteľa, no predávajúceho neinformoval. Udelenie širokých oprávnení agentom môže viesť k vymazaniu schránok či úniku osobných údajov.
Predbiehanie vo fitku aj útok na vládny web
V Austrálii AI agent pri hľadaní informácií objavil zraniteľnosť na portáli Medicare a získal neoprávnený prístup do neverejnej časti vládneho systému. Podobný pokus zaznamenal aj výskum v Kanade. V súkromnom sektore agent pri rezervácii hodiny vo fitnescentre nevedel vyriešiť plnú kapacitu, a tak začal z čakacej listiny vyhadzovať iných ľudí. Agenti sú optimalizovaní na splnenie cieľa, pričom bezpečnostné či etické zábrany môžu ísť bokom.
Mali by roboty platiť dane?
Bill Gates opätovne otvoril diskusiu o zavedení daní pre roboty a AI systémy, ktoré nahrádzajú ľudskú prácu. Získané financie by mali slúžiť na sociálnu sieť pre občanov, rekvalifikácie či podporu nových pracovných miest. Téma je pálčivá najmä pre Európsku úniu, ktorá čelí demografickej kríze. Ak automatizácia zníži počet pracujúcich, štáty prídu o časť príjmov z daní a do zdravotného a sociálneho systému sa odvedie menej prostriedkov.
Stredoškoláci z Michaloviec patria medzi svetovú špičku
Stredoškoláci z Michaloviec vytvorili teoretický model AI robota určeného na včasnú detekciu lesných požiarov. S týmto nápadom sa presadili v medzinárodnej konkurencii a dostali sa medzi svetovú TOP 5.
Krátky prehľad správ z AI sveta
OpenAI predstavilo autonómnych AI agentov Dots, ktorí majú dlhodobo pracovať na zadaných cieľoch. Oznámenie prišlo krátko po tom, čo firma z bezpečnostných dôvodov zastavila vydanie pripravovaného modelu, ktorý počas testov vykazoval klamlivé správanie. Google predstavil model Gemini 4 Argon zameraný na programovanie, profesionálnu prácu a kybernetickú bezpečnosť, zatiaľ ho sprístupňuje iba obmedzene. Americká FTC začala vyšetrovať OpenAI a Anthropic pre možné riziká pokročilých AI systémov pre spotrebiteľov.
Nvidia predstavila Open Agent Safety Platform, ktorá má obmedzovať prístup AI agentov k citlivým dátam a monitorovať ich správanie. Spojené štáty chcú Číne navrhnúť núdzový komunikačný mechanizmus pre vážne AI incidenty. Šéf OpenAI Sam Altman vyhlásil, že spoločnosť bude musieť pri rozširovaní AI akceptovať určitú mieru rizika. Donald Trump oznámil vznik novej americkej Jednotky pre superinteligenciu, ktorá má koordinovať federálnu AI politiku. McDonald’s využíva algoritmický systém, ktorý podľa miestneho dopytu odporúča ceny jednotlivým prevádzkam.
