V ére, keď sa digitálny svet rýchlo vyvíja, OSN bije na poplach ohľadom rastúcej hrozby predstavovanej deepfake vytvorenými s pomocou AI. Najnovšia správa Medzinárodnej telekomunikačnej únie (ITU), zverejnená na summite “AI for Good” v Ženeve, vyzýva na použitie efektívnejších nástrojov na detekciu a elimináciu dezinformácií na platformách po celom svete. Tento krok je razantnou odpoveďou na narastajúce obavy z manipulácie volieb a finančných podvodov umožnených týmito digitálnymi podvrhmi.
Dilema Deepfake
Predstavte si prechádzanie svojím sociálnym médiom a kladenie otázky, či je obsah, ktorý konzumujete, skutočný. Podľa Reuters je to realita, ktorej dnes čelí mnoho ľudí. Deepfakes – alebo falošný mediálny obsah generovaný pomocou AI – urobili z rozlíšenia pravdy od manipulovaného média čoraz ťažšiu úlohu, čo spôsobuje výrazný pokles dôvery verejnosti.
Požiadavka na štandardy
Správa ITU zdôrazňuje potrebu silných štandardov a odporúča, aby sociálne médiá prijali digitálne verifikačné nástroje na autentifikáciu obsahu. Bilel Jamoussi z Kancelárie pre štandardizáciu ITU uvádza, že boj proti deepfake je teraz najvyššou prioritou. S rýchlym pokrokom AI sa môže falošná multimédia zdať presvedčivo skutočnou, čo si vyžaduje proaktívne opatrenia z technologického aj regulačného hľadiska.
Potreba pravosti
Leonard Rosenthol z Adobe zvýrazňuje dôležitosť ustanovenia pôvodu digitálneho obsahu. Poukazuje na naliehavú potrebu, aby platformy poskytovali užívateľom možnosť overiť pravosť, a dodáva, “Keď prechádzate svojimi feedmi, chcete vedieť, či môžete dôverovať tomuto obrázku alebo videu.” Ustanovenie pevných verifikačných metodológií je kľúčové pre obnovu dôvery užívateľov.
Globálna spolupráca: Kolektívna nevyhnutnosť
Zakladateľka Digital Medusa, Dr. Farzaneh Badiei, na druhej strane zdôrazňuje kritickú povahu jednotného globálneho prístupu. Aktuálne absencia centrálneho medzinárodného orgánu umožňuje škodlivým deepfake zneužívať rozdiely v štandardoch a riešeniach. Harmonizácia globálnych snáh môže zabrániť takémuto zneužitiu AI technológie.
Proaktívne opatrenia a vzdelávanie
Súkromný sektor je vyzývaný, aby prijal proaktívne kroky na zaistenie bezpečnosti a šírenie povedomia medzi užívateľmi. Tomaz Levak z Umanitek obhajuje vyškolenie ľudí, aby sa vyhli obetiam sofistikovaných AI systémov. Ako AI naďalej rastie na sile, pripravenosť sa stáva zásadnou.
Správa OSN slúži ako rozhodujúca výzva k akcii, apelujúc na globálne entity, aby posilnili svoje obrany proti dezinformáciám poháňaným AI. Ako svet stojí na prahu novej digitálnej reality, kľúčom k zabezpečeniu našej digitálnej budúcnosti sú spolupráca a technologický pokrok.