OpenAI rozšiřuje ochranu nezletilých v ChatGPT o automatický odhad věku založený na chování. Nový mechanismus vyhodnocuje vzorce chování v konverzaci – například slovník, způsob formulace dotazů, témata či interakční návyky – a na jejich základě odhaduje, zda uživatel pravděpodobně spadá do věkové kategorie dítěte nebo dospělého, tedy zda již dosáhl věku 18 let. Nejde o jednorázový test, ale o průběžné hodnocení, které se může v čase měnit s tím, jak se mění chování uživatele.
Upravené odpovědi
Pokud systém usoudí, že uživatelem je nezletilý, automaticky uplatní přísnější bezpečnostní nastavení. To může znamenat omezení citlivých témat, konzervativnější odpovědi nebo aktivaci dodatečných filtrů. Cílem je snížit riziko vystavení nevhodnému obsahu i situací, kdy by model mohl generovat problematické rady.
Motivací OpenAI je dlouhodobý problém s falešným uváděním věku při registraci. Jednoduché čestné prohlášení se v praxi ukázalo jako nedostatečné, zejména u mladších dětí. Odhad věku podle chování má být kompromisem mezi ochranou soukromí a účinnější kontrolou přístupu: systém se obejde bez sběru citlivých osobních údajů a bez ukládání identifikačních dokumentů.
Firma zároveň zdůrazňuje, že nejde o přesné určování věku, ale o pravděpodobnostní model pracující s dvěma kategoriemi. Výstupem není konkrétní číslo, nýbrž rozhodnutí, zda má být účet považován za dětský a podle toho omezen. Pokud systém vyhodnotí věk špatně, uživatel se bude moci ověřit pomocí odeslané selfie fotografie. Z té ChatGPT pozná věk pomocí technologie společnosti Persona.
Limity a rizika
Odhad založený na chování nutně naráží na falešně pozitivní i negativní případy. Vyspělejší děti mohou působit dospěle a naopak. OpenAI připouští, že systém nebude bezchybný, a slibuje postupné ladění na základě reálného provozu. Zavedení tohoto řešení zapadá do širšího tlaku na technologické firmy na lepší ochranu dětí v online prostoru. OpenAI tento systém postupně zavede na většině trhů s výjimkou Evropské unie. Tady naráží na přísnější regulační podmínky, takže odhadování věku sem dorazí později.
Zdroje: OpenAI
