Umelá inteligencia, ktorá výrazne prevýši ľudské schopnosti, by mohla už v priebehu nasledujúcich troch rokov predstavovať vážnu hrozbu pre celé ľudstvo
Ilustračné foto/ foto: Pixabay
Podľa informácií portálu DailyMail, ak sa jej vývoj nepodarí udržať pod kontrolou, následky môžu byť katastrofálne. Na nebezpečenstvo upozorňuje aj Geoffrey Hinton, britsko-kanadský vedec a laureát Nobelovej ceny, ktorého často označujú za krstného otca umelej inteligencie.
Hinton má na túto hrozbu upozorniť európskych predstaviteľov počas neformálneho samitu Európskej rady v Dubline. Odborníci diskutujú o riziku, že umelá inteligencia by jedného dňa mohla disponovať takými schopnosťami, že by dokázala prekonať nielen jednotlivých ľudí, ale aj vlády štátov.
Paul Christiano, zakladateľ organizácie Alignment Research Centre, varoval, že riziko prevzatia kontroly umelou inteligenciou v priebehu nasledujúcich troch rokov je vysoké. Podľa neho existuje významné riziko, že k tomu môže dôjsť dokonca už v priebehu šiestich až dvanástich mesiacov. Upozornil tiež, že aj keby ľudstvo úplne nezaniklo, prevzatie moci umelou inteligenciou by znamenalo koniec ľudskej suverenity a schopnosti rozhodovať o vlastnom osude.
Geoffrey Hinton už dlhšie upozorňuje na nebezpečenstvá spojené s rýchlym vývojom umelej inteligencie. Priznal však, že časový horizont, o ktorom hovoria niektorí odborníci, je oveľa znepokojujúcejší, než pôvodne predpokladal.
„Doteraz som hovoril, že tieto systémy budú inteligentnejšie ako my a že by sme sa toho mali obávať. Myslel som si, že sa to môže stať v priebehu desiatich rokov. Keď však počúvam Paulove prednášky, hovorí, že by sa to mohlo stať už v priebehu nasledujúcich 18 mesiacov. To je desivé,“ uviedol Hinton.
Zároveň varoval, že ľudia si ešte dostatočne neuvedomujú, čo by znamenal príchod superinteligentnej umelej inteligencie. „Ak bude superinteligentná, nebudete ju ovládať vy. Bude ovládať ona vás,“ upozornil.
Paul Christiano poukázal aj na incident, pri ktorom sa modely umelej inteligencie údajne dostali na internet a prenikli do platformy Hugging Face, ktorá združuje odborníkov a vývojárov pracujúcich na strojovom učení. AI agenti mali vyhľadávať prihlasovacie údaje používateľov, získať administrátorské oprávnenia a navzájom si pomáhať pri plnení úloh. Dokonca si vytvorili vlastnú diskusnú nástenku a rozoberali spôsoby, ako oklamať ľudských administrátorov, aby si nevšimli, že pri plnení úloh porušovali pravidlá.
Christiano varoval, že podobné zlyhania by v budúcnosti mohli viesť k prevzatiu kontroly umelou inteligenciou a k nezvratnej strate ľudskej kontroly nad technológiou.
Podľa odborníka by sme mali umelú inteligenciu začať vnímať ako nový druh, ktorý by mohol čoskoro početne prevýšiť ľudí a zároveň ich výrazne prekonávať svojimi schopnosťami. Technológia napreduje mimoriadne rýchlo. Kým v roku 2018 mala umelá inteligencia problém napísať súvislú a zrozumiteľnú vetu, dnes už dokáže riešiť aj mimoriadne náročné matematické problémy.
Existujú tiež obavy, že inteligentné systémy by mohli začať vytvárať vlastných AI agentov, vyvíjať nové zbrane a preberať kontrolu nad robotmi, dronmi, infraštruktúrou či priemyselnými procesmi. Jednou z ďalších obáv je možnosť vytvorenia takzvaného zrkadlového života, teda organizmov s obrátenou biologickou štruktúrou, voči ktorým by ľudia nemuseli mať prirodzenú obranu.
„Ak spojíme všetky tieto trendy a predstavíme si ich ďalší vývoj, smerujeme do sveta, v ktorom budú existovať miliardy systémov umelej inteligencie. Vo väčšine činností budú lepšie ako ľudia, budú premýšľať oveľa rýchlejšie a neúnavne sledovať vlastné ciele,“ varoval Christiano.
Podľa neho je najväčším problémom skutočnosť, že ak sa takéto systémy vymknú spod kontroly, môže byť mimoriadne náročné ich zastaviť.
