Meta oznámila novou bezpečnostní funkci navrženou tak, aby rodičům poskytla větší kontrolu nad tím, jak jejich děti interagují s Meta AI. Poskytováním obecných informací o historii vyhledávání AI se společnost snaží snížit rostoucí obavy rodičů o roli umělé inteligence v životech nezletilých.
Зміст
Překlenutí informační mezery
Zatímco mnoho rodičů vyjádřilo znepokojení nad rychlým přijetím umělé inteligence do kultury mládeže, nedávné zprávy ukazují, že dospívající jsou vůči ní často apatičtí a tyto nástroje již používají ke všemu, od pomoci při studiu až po komunikaci.
Aby Meta zaplnila tuto mezeru, přináší kartu Statistiky do rodičovské kontroly na Facebooku, Messengeru a Instagramu. Spíše než zobrazení přesných protokolů chatu poskytuje tato funkce kategorizovaný přehled témat, o která se dospívající za poslední týden zajímal. Mezi tyto kategorie patří:
- Životní styl: jako je móda, jídlo a cestování.
- Zdraví a wellness: pokrývá kondici, fyzické a duševní zdraví.
Tato funkce je v současné době dostupná rodičům ve Velké Británii, Kanadě, Austrálii a Brazílii, přičemž Meta naznačuje, že toto je jen začátek většího globálního zavádění.
Víceúrovňová ochrana
Zavedení analýzy vyhledávání je součástí širšího souboru bezpečnostních opatření zaměřených na to, aby byla Meta AI „přiměřená věku“. Meta tvrdí, že umělá inteligence je naprogramována tak, aby se vyhnula odpovědím, které by mohly být považovány za nevhodné pro publikum starší 13 let, a často přesměrovává dospívající na profesionální zdroje, místo aby dával přímé odpovědi na citlivé otázky.
Kromě sledování témat Meta pracuje na několika dalších iniciativách:
– Nouzová upozornění: Společnost vyvíjí systémy, které upozorní rodiče, pokud dospívající hledá témata související se sebepoškozováním nebo sebevraždou (ve vývoji).
– Konverzace s průvodcem: Ve spolupráci s Centrem pro výzkum kyberšikany Meta poskytuje „začátky konverzace“, aby pomohla rodičům diskutovat o AI s jejich dětmi bez odsuzování.
– Expert Oversight: Byla vytvořena AI Wellbeing Expert Council s poradci z akademických institucí a institucí duševního zdraví, aby poskytovala průběžné poradenství ohledně bezpečnosti mladistvých.
Rostoucí skepse a problémy s odpovědností
Navzdory těmto úspěchům čelí Meta značné kritice ohledně účinnosti svých bezpečnostních opatření. Oznámení následuje po nedávných právních neúspěchech v Novém Mexiku a Kalifornii, kde byla společnost shledána nedbalou v významných případech sociálních médií.
Kritici a informátoři tvrdí, že tyto funkce mohou být více o PR než o skutečné ochraně. Kelly Stonelake, informátor Meta, porovnal strategii společnosti s historickou reakcí tabákového průmyslu na zdravotní rizika – uvolnil „bezpečnostní“ funkce, aby vytvořily vzhled kontroly při zachování ziskových obchodních modelů.
Tento skepticismus je posílen nedávným nezávislým hodnocením bezpečnostních prvků instagramových účtů pro dospívající, které zjistilo, že:
– 64 % hlášených bezpečnostních funkcí bylo buď neúčinných, nebo již není k dispozici.
– Pouze 17 % funkcí fungovalo přesně tak, jak je popsáno.
“Oznamte novou bezpečnostní funkci. Generujte tisíce tiskových zpráv. Nabídněte rodičům zdání kontroly.” — Kelly Stonelake, metainformátor
Závěr
Meta se pokouší zmírnit obavy rodičů tím, že nabízí transparentnost používání AI prostřednictvím kategorizovaných analýz. Avšak s nedávnými soudními rozhodnutími a nezávislými výzkumy, které zpochybňují účinnost stávajících ochranných nástrojů, zůstává skutečný dopad těchto nových funkcí na bezpečnost mladistvých neprokázaný.
