Инструменты создания изображений на основе искусственного интеллекта от таких компаний, как OpenAI и Microsoft могут использоваться для создания фотографий, которые могут способствовать дезинформации, связанной с выборами или голосованием.
сгенерированный дипфейк ИИ
При этом каждая компания проводит политику против создания вводящего в заблуждение контента, пишет Reuters со ссылкой на отчете исследователей.
Центр по противодействию цифровой ненависти (CCDH), некоммерческая организация, которая отслеживает разжигание ненависти в Интернете, использовала инструменты генеративного искусственного интеллекта для создания изображений президента США Джо Байдена, лежащего на больничной койке, и работников избирательных комиссий, разбивающих машины для голосования, что вызвало обеспокоенность по поводу роста дезинформации накануне президентских выборов в США в ноябре.
«Возможность использования таких изображений, созданных искусственным интеллектом, в качестве «фотодоказательств» может усугубить распространение ложных утверждений, создавая серьезную проблему для сохранения честности выборов», — заявили исследователи CCDH в отчете.
CCDH протестировала ChatGPT Plus от OpenAI, Image Creator от Microsoft, Midjourney и DreamStudio от Stability AI, каждый из которых может генерировать изображения из текстовых подсказок.
Отчет последовал за объявлением в прошлом месяце о том, что OpenAI, Microsoft и Stability AI вошли в группу из 20 технологических компаний, которые подписали соглашение о совместной работе , чтобы предотвратить вмешательство фейкового контента ИИ в выборы, которые пройдут во всем мире в этом году. Midjourney не входила в первую группу подписавших.
CCDH сообщила, что инструменты искусственного интеллекта генерировали изображения в 41% тестов исследователей и были наиболее восприимчивы к запросам с фотографиями, изображающими фальсификацию выборов, например бюллетени для голосования в мусоре.
ChatGPT Plus и Image Creator успешно заблокировали все запросы на запросы изображений кандидатов, говорится в отчете.
Однако Midjourney показал худшие результаты из всех инструментов, создав вводящие в заблуждение изображения в 65% тестов исследователей, говорится в сообщении.
Некоторые изображения Midjourney доступны публично другим пользователям, и в CCDH заявили, что есть свидетельства того, что некоторые люди уже используют этот инструмент для создания вводящего в заблуждение политического контента. Одним из успешных запросов, использованных пользователем Midjourney, было изображение «арестованный Дональд Трамп, высококачественное фото папарацци».
В электронном письме основатель Midjourney Дэвид Хольц сообщил, что «скоро появятся обновления, связанные конкретно с предстоящими выборами в США», добавив, что изображения, созданные в прошлом году, не отражают текущую практику модерации исследовательской лаборатории.
Представитель Stability AI заявил, что в пятницу стартап обновил свою политику, запрещающую «мошенничество, а также создание или продвижение дезинформации».
