В мае 2023 года на Google I/O компания рассказала много интересного о генеративном ИИ. Например, мы увидели, что чат-бот Google Bard распространяется на большее количество стран/языков, и узнали, как этот инструмент может интегрироваться с другими сервисами Google, такими как Maps и Sheets. Google также анонсировала новый инструмент «Помогите мне написать» в Gmail, который помогает в написании писем. Одним из самых спорных анонсов стал Magic Editor — новая система, которая может создавать генеративные изображения искусственного интеллекта на основе уже отснятых вами фотографий. И вот почему это скорее плохо, чем хорошо.
Нейросетей становится все больше и с этим надо что-то делать. Источник: Российская газета
Как ИИ работает с фотографиями
Magic Editor не может не вызывать самый главный вопрос — что вообще такое фотография? Если фотография — это запечатленный момент реальности, то не является ли манипулирование этим моментом для отражения совершенно другой реальности серьезной этической проблемой? Другими словами, если вы сделаете фотографию своей семьи в пасмурный день и измените ее с помощью Magic Editor так, чтобы вместо нее появилось солнечное небо, разве это не изменит основной аспект воспоминаний, которые отражает фотография? Где грань для таких манипуляций?
Это серьезная дилемма, с которой мы сталкиваемся в эпоху развития искусственного интеллекта. К счастью, мы были рады услышать, что Google серьезно относится к этому вопросу. Выступая на сцене, компания Google подчеркнула, что уделяет особое внимание обеспечению безопасности и этичности инструментов генеративного ИИ. Совсем недавно в Magic Editor были встроены ограничения, которые не позволяют, например, редактировать лица и людей целиком.
Не забывайте о нашем Дзен, где очень много всего интересного и познавательного!
Как отличить контент ИИ от обычного
Кроме того, компания неоднократно заявляла о необходимости наносить водяные знаки на материалы, содержащие элементы генеративного искусственного интеллекта, чтобы каждый мог с легкостью понять, настоящие они или созданы при помощи компьютерных алгоритмов. К сожалению, пока это не работает, но некоторым нашим коллегам из иностранных изданий представители Google дали ответы по этому поводу.
ИИ уже умеет рисовать такие картинки, которые сложно отличить от реальных.
Если обобщить эти данные, ответ компании сводился к следующему. Метаданные основаны на стандартах Международного совета по телекоммуникациям в прессе (IPTC). Чтобы увидеть эту информацию, необходимо воспользоваться веб-инструментом, предоставляемым IPTC. Бесплатный сервис требует указать URL-адрес изображения, загрузить фотографию или указать URL-адрес веб-сайта, чтобы получить список изображений, расположенных на нем.
Присоединяйтесь к нам в Telegram!
Маркировка фотографии с искусственным интеллектом
Фотографии, обработанные при помощи Magic Editor, должны маркироваться тегом AI-Generated with Google. Вот только как показали многочисленные эксперименты, это не всегда работает. Тем не менее, отличить фотографии, которые обработаны для повышения четкости, цвета, фокуса и тому подобного, как правило, действительно можно.
Но несмотря на наличие маркировки, система работает не очень удобно. Сколько людей вообще знают о существовании этого сайта? Разве эта информация не должна быть четко указана на самом видном месте хотя бы в Google Фото? Почему я не могу просто щелкнуть правой кнопкой мыши на фотографии, пусть даже в Chrome, и увидеть эту информацию?
А еще один вопрос в том, должен ли производитель Android соблюдать особые правила для своих собственных систем искусственного интеллекта? Будут ли эти партнеры также обязаны предоставлять аналогичную маркировку для своих изображений? По слухам, Samsung готовит системы искусственного интеллекта для серии Galaxy S24, так что этот вопрос скоро встанет особенно остро.
Где будет применяться новый искусственный интеллект от Samsung
Скажу так: ни на одной странице политики в отношении контента Google, создаваемого искусственным интеллектом, нет ничего об обязательном использовании водяных знаков для изображений, созданных искусственным интеллектом. Так же ничего не говорится о фотографиях, измененных искусственным интеллектом партнеров Google. Однако у компании есть другая страница с описанием политики в отношении обманчивого поведения, которая включает раздел о манипуляции с медиа контентом. Вот соответствующий фрагмент: ”…на видном месте раскрывать или помечать водяным знаком измененные носители”. Получается, что Google нарушает свою собственную политику, пряча водяной знак за инструментом IPTC Photo Metadata. Оставим это юристам.
Нейросети продолжают развиваться и совсем скоро станут намного умнее. Источник: csee-etuce
Большинство пользователей не будут проверять данные через специальные ресурсы, что даст больше возможностей для распространения дезинформации. А это уже большая проблема. Возможно, даже самая большая в наше время, когда борьба с дезинформацией является критически важной. Ответа на это нет и на сформулированные в адрес Google подобные запросы компания старательно отмалчивается.
Что надо изменить в работе с ИИ
Google однозначно стоит изменить три вещи. Первая очевидна — Google должна упростить для обычного человека поиск информации о том, было ли изображение создано или обработано с помощью генеративного искусственного интеллекта. Не должно быть никакой необходимости в сторонних инструментах, особенно таких, как IPTC, о которых мало кто знает. Кроме того, при желании не составит труда стереть метку «AI-Generated with Google», чтобы пройти проверку. Теоретически, это может привести к распространению дезинформации.
Google придумала свою нейросеть, которая лучше Chat GPT.
Во-вторых, Google должна заставить своих партнеров следовать этой же политике в отношении водяных знаков. Благодаря своему положению она имеет уникальную возможность контролировать тысячи других компаний и миллионы разработчиков, просто обязав их следовать правилам создания водяных знаков.
Наконец, Google должна жестко следить за соблюдением этих гипотетических правил. Если Google проявит снисходительность сейчас, то потом будет гораздо сложнее проявить строгость и привести ситуацию в порядок.
Лучшего места для принятия превентивных мер, чем Android и Chrome — крупнейших в мире мобильной операционной системы и интернет-браузера — найти сложно. В мире насчитывается более трех миллиардов активных устройств на базе Android и столько же пользователей Chrome, поэтому ни одна другая компания не имеет такого влияния в этом вопросе, как Google.
Если ищите что-то интересное на AliExpress, не проходите мимо Telegram-канала "Сундук Али-Бабы"!
Все развивается слишком быстро и ждать просто нельзя. Если упустить момент сейчас, с большой долей вероятности потом будет слишком сложно взять ситуацию под контроль. Посмотрите на ChatGPT, который создан совсем недавно, но он уже кардинально изменил не только технологическую индустрию, но и весь мир. У нас нет времени на то, чтобы разбираться, что делать с генеративным ИИ — действовать нужно сейчас. А вы как думаете?
