Компания OpenAI объявила, что прекратит использование своего приложения для создания видео с ИИ, Sora, для генерации роликов с изображением доктора Мартина Лютера Кинга-младшего после получения просьбы от его наследников.
Известный своей борьбой за права человека и ненасильственное сопротивление, доктор Кинг стал жертвой покушения в апреле 1968 года. Приложение Sora использовалось для создания видео, в которых доктор Кинг произносит речь «У меня есть мечта», сопровождая это звуками обезьяны, а также видео, где он сражается с Малкольмом Икс.
OpenAI признала, что такие материалы являются «неуважительными изображениями», и заявила, что прекращает возможность пользователям создавать видео с изображением доктора Кинга, чтобы усилить защиту исторических личностей.
Доктор Кинг не единственный, чей образ оказался в подобных спорных видео. Существуют ролики с изображением Джона Кеннеди, шутящего о недавнем покушении на Чарли Кирка; видео с Коби Брайантом на вертолете, намекающее на крушение 2020 года, и еще больше видео с Малкольмом Икс, рассказывающим грубые шутки.
«Это глубоко неуважительно и болезненно видеть, как образ моего отца используется так бездумно и бесчувственно, когда он посвятил свою жизнь правде», — сказала дочь Малкольма Икса Ильяса Шабазз в интервью Washington Post.
Ранее в этом месяце Зельда Уильямс, дочь покойного Робина Уильямса, выразила недовольство «трибьютами» ее отцу, создаваемыми с помощью ИИ: «Вы делаете отвратительные, переобработанные хот-доги из жизней людей [...] Вы принимаете участие в человеческой многоножке контента, и это лишь начало конца.»
Бернис А. Кинг, дочь доктора Кинга, в комментарии на Instagram Variety заявила: «Я согласна в отношении моего отца. Пожалуйста, прекратите.»
OpenAI, как и всегда, действовала без оглядки на возможные проблемы с авторскими правами и человеческим достоинством. Когда проявились очевидные последствия, компания предложила возможность отказаться от использования изображений по запросу.
Я задаюсь вопросом, сможет ли OpenAI избежать судебного иска, если семьи недавно умерших знаменитостей увидят фальшивые кадры, созданные Sora, с изображением их близких.
В своем заявлении по делу доктора Кинга OpenAI невероятно использует аргумент о свободе слова для оправдания создания фальшивых видео с историческими личностями. «Хотя существует сильный интерес к свободе слова в изображении исторических фигур, OpenAI считает, что общественные деятели и их семьи должны иметь контроль над использованием их образа», — говорится в заявлении компании. «Уполномоченные представители или владельцы наследства могут запросить, чтобы их образы не использовались в роликах Sora.»
Насколько это великодушно! OpenAI даже поблагодарила Совет по этике ИИ «за создание пространства для таких обсуждений», что, вероятно, является более дипломатичным, чем «остальные могут идти лесом».
Эта ситуация «поднимает вопросы о том, кто получает защиту от синтетического воскрешения, а кто нет», — отметил эксперт по генеративному ИИ Генри Адждер в интервью BBC. «Наследники доктора Кинга справедливо обратились к OpenAI, но у многих умерших нет известных и ресурсных наследников, чтобы их представлять.
В конечном итоге мы хотим избежать ситуации, когда, если мы не очень известны, общество принимает, что после смерти с нами можно обращаться как угодно.»
Некоторые выражаются менее дипломатично и, возможно, имеют на это право. В ответ на заявление OpenAI о «паузе» вокруг доктора Кинга сценарист и продюсер Алекс Хирш прокомментировал:
«Ваш бизнес-модель заключается в том, чтобы выкапывать трупы знаменитостей и позволять пользователям манипулировать ими, пока их семьи не попросят остановиться? Что случилось с лечением рака?»
Очень странная ситуация с использованием образов знаменитостей в фальшивых видео. Печально, что компании вроде OpenAI не учитывают моральные и этические аспекты, пока на них не надавят.
Интересно, что бы сказал сам доктор Кинг, если бы мог увидеть, как его образ используется в таких видео. Это точно не соответствует тому, за что он боролся.
AI-технологии, безусловно, обладают огромным потенциалом, но важно помнить об ответственности и этике. Надеюсь, такие ситуации станут уроком для других компаний.