Обмеження функціональності чат-бота Grok
Як повідомляється Головний комісар: xAI обмежив роботу чат-бота Grok після сексуального скандалу з дипфейками, заборонивши редагувати зображення реальних людей у відвертому одязі. Відтепер Grok більше не може редагувати фотографії людей, додаючи до них купальники чи нижню білизну. Ці обмеження стосуються всіх користувачів, у тому числі платних підписників, які мають доступ до функцій створення та редагування зображень.
Компанія xAI заявила, що вжила технологічних заходів для запобігання редагування зображень реальних людей у відкритому одязі, наприклад бікіні. Це додає додатковий рівень захисту, допомагаючи гарантувати, що особи, які намагаються зловживати обліковим записом Grok, щоб порушити закон або політику компанії, можуть бути притягнуті до відповідальності. Крім того, Grok блокує створення зображень реальних людей у бікіні чи нижній білизні в країнах, де це заборонено законом.
Реакція урядів і етика використання ШІ
Ця ситуація спонукала уряд Каліфорнії розпочати розслідування проти xAI. Відомо, що з 20 тисяч зображень, згенерованих під час новорічних свят, на більшості зображені люди в мінімальному одязі. Уряд Індонезії також оголосив про тимчасову заборону інструменту Grok AI. Про це заявив глава компанії Ілон Маск.
«Мені не відомі випадки створення зображень оголених неповнолітніх». Ілон Маск
Обмеження функціонування Grok свідчить про зростання уваги до етики використання штучного інтелекту та його потенційних ризиків, пов’язаних із конфіденційністю та безпекою персональних даних. Реакція урядів на такі технології може призвести до більш жорстких правил у сфері штучного інтелекту та обробки зображень, що, у свою чергу, вплине на розвиток таких інструментів у майбутньому.
