Sam Altman: AI přinese i špatné věci a svět se s tím musí smířit

Dnes

Sam Altman je zastáncem liberálnějšího přístupu k AI a prosazuje dobrovolnou samoregulaci.

Podle Sama Altmana převáží přínosy umělé inteligence nad negativními dopady. Mírní nedávná prohlášení o katastrofických dopadech, počítá ale se zneužíváním AI k podvodům a hackům.

Přidat mezi oblíbené zdroje na Googlu

Současná debata kolem AI proti sobě staví zastánce volnějšího přístupu k AI na jedné straně a touhu ji regulovat na straně druhé. OpenAI se Samem Altmanem v čele se řadí k první skupině, z čehož vyplývají i nedávné výroky z podcastu Decoded. Lehčí regulace umělé inteligence v jeho pojetí znamená smířit se s negativními dopady do doby, než si společnost vybuduje odolnost. AI firmy podle něj i v případě tvrdé regulace nebudou moci zajistit odolnost vůči zneužití umělé inteligence. Zároveň by to bylo kontraproduktivní, neboť lidé podle něj s AI vytvoří o řády víc dobrého než špatného.

Hranici přitom Altman stanovil jasně. Přijatelná jsou podle něj rizika, kterým rozumíme, výměnou za přínosy, svobodu a autonomii lidí. Katastrofické riziko, typicky vážnou ztrátu kontroly nad AI, ale OpenAI akceptovat nechce. Jenže právě tuto červenou linii modely OpenAI v posledních měsících opakovaně překračovaly. Agenti firmy pronikli na několik vládních webů ve Spojených státech a Austrálii a dříve úspěšně napadli platformu Hugging Face.

Spor s Anthropicem i politiky

V podcastu se Altman rovněž vymezil vůči Anthropicu a jeho veřejným snahám o zpomalení vývoje. Podle Altmana jde o konkurenční boj, který by vyústil v monopolní postavení jedné či dvou společností, které by kontrolovaly vývoj AI. Stejně tak odmítnul regulaci po vzoru letecké FAA, kterou navrhuje Dario Amodei z Anthropicu. Úřad by dle něj měl auditovat nové modely a schvalovat jejich zveřejnění a nasazení do ostrého provozu.

Podcast vyvolal ostré reakce napříč politickým spektrem ve Spojených státech. Republikánský guvernér Floridy Ron DeSantis ve svém prohlášení odmítl, aby za ostatní rozhodovala hrstka technologických oligarchů. Demokratický guvernér Illinois JB Pritzker potom uvedl, že Altmanovi nepřísluší určovat, které špatné věci bude muset společnost ve spojitosti s AI akceptovat. Demokratická senátorka Elizabeth Warrenová Altmanův postoj označila za absurdní. Je podle ní nepřípustné, abychom tolerovali škody působené umělou inteligencí výměnou za další bohatnutí hrstky technologických firem.