Británia vyšetruje sieť X pre obvinenia z generovania sexualizovaných obrázkov detí
Britský regulačný úrad Ofcom oznámil, že sa zaoberá vážnymi sťažnosťami týkajúcimi sa sociálnej siete X, ktorá patrí americkému miliardárovi Elonovi Muskovi. Hlavným bodom záujmu je nový nástroj umelej inteligencie (AI) Grok, ktorý údajne generuje falošné pornografické obrázky detí. Sťažnosti sú predmetom prísneho preskúmania, ktoré Ofcom považuje za naliehavú prioritu.
Podľa zástupcu Ofcomu sa úrad snaží zistiť, aké opatrenia prostredníctvom svojich platforiem X a xAI vyvinuli, aby splnili svoje zákonné povinnosti voči ochrane používateľov v Spojenom kráľovstve. „Boj proti nelegálnemu škodlivému obsahu na internete a ochrana detí sú pre nás kľúčové,“ uviedol hovorca dozorného orgánu.
V závislosti od reakcie uvedených platforiem Ofcom rozhodne o ďalších krokoch a zhodnotí prípadné problémy s dodržiavaním legislatívnych požiadaviek, ktoré by si mohli vyžadovať rozsiahlejšie vyšetrovanie. Prípady sa však nielen na britskej pôde; Európska únia tiež aktivne skúma rovnaké sťažnosti, pričom upozorňuje, že funkcia Grok, poskytujúca „pikantný režim“ s explicitným obsahom, tiež generuje obrázky detí.
„To nie je pikantné. To je nezákonné a desivé,“ vyhlásil hovorca EÚ pre digitálne záležitosti Thomas Regnier. V rámci svojich vyjadrení zástupcovia aplikácie Grok priznali, že identifikovali vážne nedostatky v bezpečnostných opatreniach a naliehavo na ich odstránení pracujú.
Podľa britských legislatívnych noriem musia webové stránky a sociálne siete implementovať prísne overovanie veku, aby zabránili prístupu k potenciálne škodlivému obsahu. Nielen to, ale prevádzkovatelia takýchto platforiem nemôžu vytvárať alebo šíriť intímne materiály bez súhlasu dotknutých osôb, vrátane deepfakeov, ktoré zobrazuje sexuálne zneužívanie detí.
