Нейросеть "Шедеврум" ограничила генерацию картинок на тему религии и политики

МОСКВА, 7 апр - РИА Новости/Прайм. Нейросеть "Шедеврум" ограничила возможность генерировать картинки по некоторым темам, в их числе - религия, политика, а также изображения, содержащие отсылки к реальным людям, которые могут стать дипфейками, а также относящиеся к категории "18+", следует из принципов работы сервиса.

"Этические правила для генеративных нейросетей в мире пока только формируются, и мы не хотим, чтобы новая технология кому-то навредила​​​. Поэтому мы ограничили её применение для некоторых тем: содержащих отсылки к конкретным людям, потому что "Шедеврум" не должен никого обижать или становиться генератором дипфейков; связанных с политикой и религией; относящихся к категориям "18+"; касающихся жестокости и насилия", — говорится в правилах "Шедеврума".

В бета-версии приложения пользователи могут сообщить о "неприемлемых изображениях" в ленте с помощью функции "пожаловаться".

Как убедился корреспондент РИА Новости, еще одна российская нейросеть Kandinsky 2.1 не ограничивает генерацию картинок из категории "18+", а также изображений по темам, связанным с политикой, религией и с образом конкретных людей. В то же время, в Сбербанке, разработчике сети, объяснили, что нейросеть не предназначена для генерации контента, который может причинить вред другим людям.

"В работе модели применяется ряд современных фильтров, призванных исключить любые формы незаконного, неэтичного или неприемлемого использования генеративных моделей. Для этого наша команда постоянно совершенствует модель и способы модерации. Также мы рассчитываем, что именно сам пользователь будет ответственно относиться к работе с нейросетью", - прокомментировали РИА Новости в пресс-службе.

В среду компания "Яндекс" представила бета-версию приложения "Шедеврум" - собственной нейросети, которая может генерировать картинку по текстовым запросам, она доступна для пользователей операционных систем Android и iOS. Для того, чтобы генерировать изображения по своему запросу, нужно скачать приложение на устройство, оставить заявку и дождаться ее подтверждения.

При перепечатке и цитировании (полном или частичном) ссылка на РИА "Новости" обязательна. При цитировании в сети Интернет гиперссылка на сайт http://ria.ru обязательна.

Другие новости