Google планирует сделать поиск изображений более прозрачным и удобным для пользователей, добавляя специальные метки к изображениям, созданным с помощью искусственного интеллекта. Эти изменения вступят в силу в ближайшие месяцы и коснутся как результатов поиска, так и сервисов Google Lens и Android Circle to Search.
Почему это важно?
С увеличением количества изображений, созданных искусственным интеллектом (ИИ), пользователям стало сложнее находить подлинные результаты. Фотографии, сгенерированные ИИ, иногда заменяют реальные снимки, что может вводить в заблуждение. В ответ на это Google решила отмечать такие изображения в специальном разделе «Об этом изображении», который будет доступен прямо в результатах поиска.
Эта технология будет использоваться не только в поиске, но и в рекламе Google, а также, возможно, в видеороликах на YouTube. По словам представителей компании, больше информации по поводу внедрения в YouTube появится позже в этом году.
Как Google будет отслеживать изображения?
Google собирается применять метаданные стандарта C2PA (Коалиция за происхождение и аутентичность контента) для идентификации изображений, созданных искусственным интеллектом. Этот стандарт помогает отслеживать происхождение изображений, включая информацию о том, где и когда они были созданы, а также какое оборудование и программное обеспечение использовалось.
Хотя C2PA уже поддерживается такими крупными компаниями, как Amazon, Microsoft, OpenAI и Adobe, некоторые производители оборудования и создатели ИИ-инструментов пока не приняли этот стандарт. В частности, Black Forest Labs, разработчики модели Flux, использующейся для генерации изображений, отказались от его внедрения.
Проблема поддельного контента
В последние годы случаи мошенничества с использованием поддельных изображений, созданных ИИ, значительно возросли. Один из примеров — инцидент, когда финансовый директор из Гонконга перевел мошенникам $25 миллионов, думая, что общается с коллегой по видеоконференции. Исследование, проведенное компанией Sumsub, показало рост мошенничества с использованием глубоких подделок на 245% в 2023-2024 годах, при этом в США этот показатель вырос на 303%.
По словам экспертов, доступность технологий для создания поддельных изображений и видео снизила барьер для киберпреступников. «Теперь им не нужно обладать специальными навыками, чтобы обманывать людей с помощью ИИ», — отметил Дэвид Фэрман, директор по ИТ и безопасности Netskope.
Заключение
Добавление меток к изображениям, созданным с помощью ИИ, сделает поиск более прозрачным и безопасным. Пользователи смогут лучше различать реальные фотографии и контент, сгенерированный искусственным интеллектом, что поможет в борьбе с мошенничеством и дезинформацией.
