ИскусствоБольшая грудь и маленькие носы: Почему все обсуждают этику искусства, созданного нейросетью

В последние недели портреты, сгенерированные искусственным интеллектом, видно повсюду: приложение Lensa предоставило пользователям возможность за небольшую плату получить множество рисованных картинок Magic Avatars, загрузив фотографии. Фоторедактор российских разработчиков сразу вызвал множество дискуссий. В первую очередь стали обсуждать безопасность личных данных пользователей — об этом подробно написала «Медуза» (признана «иноагентом». — Прим. ред.). Мы же решили посмотреть на дискуссии, касающиеся этики искусства, сгенерированного нейросетью: как ИИ учится на произведениях настоящих художников и какие предрассудки проявляет, изображая людей.

Мужчинам — героев, женщинам — большую грудь

Безусловно, многим Lensa позволила увидеть себя в новых креативных образах и интересно интерпретировала их внешность. Однако почти сразу же пользовательницы приложения стали рассказывать, что оно порой рисует портреты, подстраиваясь под определённые конвенции красоты: делает стройнее их тела, уменьшает носы или меняет их форму, зачастую меняет цвет глаз. Более того множество женщин сообщили, что, загрузив обычные фото, в ответ получили сексуализированные или и вовсе обнажённые рисунки. О сексизме приложения написала фемактивистка Дарья Серенко, которой Lensa также сгенерировала нюдс, а в твиттере многие женщины выложили рисунки с тем, как их увидел искусственный интеллект, некоторых — с пририсованной обнажённой грудью, с сосками. Некоторые также рассказывали о вайтвошинге со стороны приложения или его неспособности корректно считывать черты лица людей смешанного происхождения.

Мы уже писали, что искусственный интеллект обучается на больших массивах данных и поэтому повторяет присущие этим данным, и по сути обществу, негативные стереотипы, таким образом только дальше поддерживая их. Поэтому женщины, выбирая в приложении свой гендер, зачастую получают цветы и сексуализированные изображения, а мужчины — портреты в образах героев. «Мои аватары были карикатурно порнифицированы, в то время как мои коллеги-мужчины стали астронавтами, исследователями и изобретателями», — написала в MIT Technology review Мелисса Хейккиля. Журналистка также отметила, как её этничность — у Хейккиля азиатские корни — повлияла на работу фоторедактора. По её словам, её аватары выглядели как героини аниме или видеоигр, были чрезвычайно сексуализированы (из сотни портретов шестнадцать были топлес, а четырнадцать — в откровенных нарядах и позах, Хейккиля получила откровенные женские портреты, даже поменяв гендерный маркер на мужской). Похожий результат пришёл её коллеге китайского происхождения, а белой сотруднице журнала приложение сгенерировало гораздо меньше сексуализированных фото, но всё же несколько нюдсов и глубоких вырезов.

Причиной тому, что нейросеть генерирует сексуализированные портреты, в особенности для небелых женщин, служит некурируемый массив данных, заключает журналистка: в Сети множество изображений обнажённых женщин, сексуализированных картинок, порнографии, а также расистского контента — данные для обучения ИИ тоже отражают это. Об этом рассказали учёные, изучавшие массив данных, который использовался для модели ИИ, схожей со Stable Diffusion, которую использует приложение Lensa. Мелисса Хейккиля отметила, что проблема не только в массивах данных, но и разработчиках, которые их не ограничивают. По словам представителей компании-разработчика Prisma Labs в материале Techcrunch, данные открывают ИИ предрассудки общества, а сами компании не продвигают стереотипы намеренно, но работают над решением проблем и добавляют фильтры. 

Важная проблема здесь заключается в том, что, генерируя откровенные изображения в ответ на обычные фото, ИИ делает это без спроса, по сути, нарушая принцип согласия. И это негативно влияет на женщин не только когда они сами загружают свои селфи и получают неприятные результаты — кто-то другой может использовать фотографии и генерировать изображения с помощью фоторедактора. Колумнистка Wired Оливия Сноу считает, что без должной модерации злоупотребления такими приложениями могут навредить прежде всего детям, небелым женщинам и секс-работницам.

Чьё же это искусство?

Фоторедактор, предлагающий сотни портретов за несколько минут, вызвал и другие вопросы, например, у кого ИИ «учится» рисовать? Опять же нейросеть исследует большой массив данных, в этом случае состоящих из произведений художников. И многие из них недовольны тем, что их работы могут использоваться без спроса и они сами не получают никакой компенсации. Группа активистов даже создала платформу, с помощью которой можно проверить, есть ли ваши произведения в массиве данных, который используется для обучения Stable Diffusion и других подобных ей моделей.

Многие художники и пользователи соцсетей придерживаются мнения, что ИИ именно крадёт искусство. Подтверждением считают то, что у многих портретов, сгенерированных нейросетью, в углу зачастую есть что-то напоминающее подпись. Это может говорить о том, что ИИ учился на произведениях с подписями и стал повторять росчерк в углу — впрочем, для обучения могли использоваться подписанные работы, которые считаются общественным достоянием и не защищены авторским правом, считают другие пользователи. Но посыл здесь в том, что, если приложение, «создающее» искусство, всё же учится на работах современных авторов, которые они выложили в Сеть, ему стоит это делать с позволения самих художников, даже если по закону это согласие не обязательно.

Здесь можно поспорить, что сами художники зачастую учатся, исследуя работы своих предшественников, а многие творческие упражнения на начальных этапах направлены на разбор техники и копирование других картин. Однако художники в итоге вырабатывают свой стиль, даже если у них есть кумиры, о чём сложнее говорить в отношении нейросети. Им также необходимо больше времени и ресурсов на создание картин — авторы не могут выдавать десятки портретов за пару долларов. В Lensa отметили, что ИИ-искусство не заменит настоящих диджитал-художников — ведь нейросеть не может ценить искусство так же, как человек. «Искусственный интеллект создаёт уникальные изображения, основанные на принципах, полученных на основе данных, но он не может придумывать и воображать вещи сам по себе. Поскольку кино не убило театр, а бухгалтерское программное обеспечение не уничтожило профессию, искусственный интеллект не заменит художников, но может стать отличным вспомогательным инструментом», — написали в Lensa и подчеркнули, что модель учится распознавать связи между изображениями и их описаниями, а не произведениями искусства. Некоторые пользователи отметили, что ИИ правда помогает им генерировать картинки-ориентиры, а писателям и сценаристам нейросеть может помочь визуализировать описываемый мир.

«В то время как ценность искусства субъективна, суть спора об искусственном интеллекте заключается в праве на неприкосновенность частной жизни», — заключают в материале NBC. В нём приводят слова художницы Карлы Отрис, рисующей концепт-арт для фильмов Marvel и занимающейся изобразительным искусством, которая назвала «нарушением её идентичности» тот факт, что её работы использовались для обучения нейросети. Художник Матеуш Урбанович рассказал, что видел работы, сгенерированные нейросетью, которые очень сильно напоминают его акварель, и выразил беспокойство, что кто-то может с помощью ИИ сгенерировать картинку в его стиле, которая нанесёт ущерб его бренду как художника.

В связи с развитием ИИ, который может преображать фото или генерировать картинки из текста, многие обеспокоены легальными аспектами, ведь технологии развиваются быстрее законотворчества. Опасением для начинающих иллюстраторов может быть то, что компании предпочтут генерировать дешёвые иллюстрации, а не платить художникам. Остаётся очень много вопросов, и идёт множество дискуссий о развитии ИИ-искусства, однако они и указывают на то, что людям важно настоящее творчество и ценна точка зрения художников, которую ИИ неспособен повторить. Технологии явно продолжат развиваться в условиях капитализма, но важно и то, что пользователи указывают им на этические проблемы — главное, чтобы компании-разработчики прислушивались, внедряли фильтры и курировали массивы данных, которыми они пользуются.

обложка: alla.gurbova_sviatoacademy / соцсети, Berit Glanz / Twitter