V desivej prognóze odborníci vydali vážne varovanie: rýchly pokrok v technológiách AI by mohol výrazne zvýšiť pravdepodobnosť pandémií spôsobených ľuďmi. Podľa štúdie, ktorá bola exkluzívne zdieľaná s TIME, pravdepodobnosť takýchto udalostí sa údajne znásobila päťnásobne—a to je alarmujúca indikácia moci, ktorú AI disponuje.
Priekop AI a jeho dôsledky
Predtým bolo vytvorenie biologických zbraní zložité, vyžadujúce odbornosť a zdroje. Teraz, vďaka AI chatbotom, čo bolo kedysi doménou expertov, sa stáva čoraz prístupnejšie. Modely ako ChatGPT a Claude údajne poskytujú kľúčovú pomoc pri riešení problémov jednotlivcom so zlými úmyslami, čo predstavuje podstatný rizikový faktor už predtým zdôraznený renomovanými AI spoločnosťami.
Prebúdzačka z komunity prognostikov
Forecasting Research Institute, ktorý realizoval prieskumy medzi biosecurity expertmi a superprognostikmi, bije na poplach. Odhadli aktuálne riziko človekom spôsobenej pandémie na 0,3 % ročne. Avšak, ak AI nástroje dosiahnu úroveň efektivity odborníkov v manipulácii s vírusmi, toto číslo by mohlo raketovo stúpnuť na 1,5 %, čo poukazuje na vážnosť týchto vývojov.
AI prekonávajúca ľudí: Znepokojujúci míľnik
Výskum vedený Sethom Donoughem testoval schopnosti AI voči skúseným virológom. Výsledky, ktoré mnohých šokovali, odhalili, že špičkové AI systémy aktuálne prekonávajú ľudských expertov v zložitých scenároch riešenia problémov. Tento úspech potvrdzuje obavy prognostikov, poukazujúc na výrazne zvýšené riziko pandémií.
Súčasná naliehavosť silných ochranných opatrení
Preventívne kroky na zníženie týchto rizík sa javia ako kľúčové. Štúdia navrhuje dve hlavné stratégie ochranných opatrení. Na úrovni modelu sú zavedené opatrenia na obmedzenie schopností AI systémov pomáhať v škodlivých úmysloch. Spoločnosti ako OpenAI zaviedli ochranné opatrenia, aby zabránili svojim technológiám v uľahčovaní konštrukcie biologických zbraní. Okrem toho regulácie zabránia genetickým syntetizujúcim firmám nevedomky prispievať k nehanebným účelom, nabádajúc na implementáciu prísnych kontrol “poznaj svojho zákazníka”.
Nová hranica v celosvetovej bezpečnosti
S AI potenciálne pomáhajúcou pri tvorbe biologických hrozieb, zameranie sa na tento rozvíjajúci sa risk je zásadné, tvrdia odborníci. Hoci sa tento risk stal výraznejším s možnosťami AI, efektívne politické opatrenia by mohli pomôcť zmierniť ho späť na manažovateľnejšiu úroveň.
Zdá sa, že tieto proaktívne kroky môžu znížiť šancu na pandémiu asistovanú AI na úroveň len mierne vyššiu nad základňu—optimistický cieľ uprostred rastúceho znepokojenia nad neželanými dôsledkami AI.
Ako sa nachádzame na pokraji technologického priepasti, vyváženie fenomenálnej inovácie s globálnou bezpečnosťou nikdy nebolo dôležitejšie. Podľa Time Magazine, je to výzva na ostražitosť a robustnú odpoveď na ochranu budúcnosti ľudstva.