Под притисок на сè погласните реакции од јавноста и институциите, платформата X воведе строги ограничувања за својот AI-алат Grok, со што практично ја затвори вратата за создавање и уредување сексуализирани deepfake-слики од вистински луѓе.
По серија алармантни извештаи за злоупотреба на вештачката интелигенција – особено во Обединетото Кралство и САД – компанијата соопшти дека Grok повеќе нема да дозволува обработка на фотографии на реални лица на начин што ги прикажува во бикини, долна облека или друга оскудна облека. Забраната важи за сите корисници, без разлика дали плаќаат претплата или не.
„Воведовме технолошки бариери кои оневозможуваат ваков тип манипулација со слики од вистински луѓе“, наведуваат од X, додавајќи дека мерките се дел од поширок напор за спречување на злоупотреби и полесно утврдување одговорност кај корисниците.
Иако компанијата и понатаму инсистира дека само претплатниците ќе имаат пристап до алатки за уредување слики, новите правила јасно ставаат до знаење дека генерирање сексуализирани визуелни содржини со реални лица – без разлика на намерата – нема да биде толерирано. Ограничувањата, како што велат, ќе се применуваат во согласност со законите на секоја држава поединечно.
Одлуката доаѓа во чувствителен момент. Само неколку часа претходно, главниот обвинител на Калифорнија, Роб Бонта, потврди дека е отворена истрага за ширење на AI-генерирани сексуализирани содржини, меѓу кои и такви што вклучуваат деца. „Овие материјали се користат како средство за вознемирување и понижување, особено на жени и малолетници“, предупреди Бонта.
