Уже почти год OpenAI обладает технологией для маркировки текстов, сгенерированных ChatGPT и инструментом для распознавания этих меток. Однако компания сомневается, выпускать ли эту функциональность в свет.
Это решение ставит OpenAI перед классической дилеммой: с одной стороны, защита авторских прав и предотвращение злоупотреблений. А вот с другой — опасения по поводу ограничения потенциала искусственного интеллекта и создания ненужных барьеров для инноваций.
Как работает маркировка текста от ChatGPT
Маркировка текста, разработанная OpenAI, представляет собой сложный алгоритм, который изменяет вероятность появления определенных слов и фраз. Таким образом создается уникальный отпечаток, который может быть идентифицирован специальным инструментом. Хотя этот метод значительно упрощен, он демонстрирует потенциал технологии. Google, например, разработала подобную систему для своего модели Gemini, предоставляя более подробное объяснение процесса.
Шаг вперед для образования
Возможность распознавать текст, сгенерированный искусственным интеллектом, была бы благословением для преподавателей, которые борются с растущей тенденцией учеников использовать Искусственный Интеллект, для написания домашних заданий. Согласно исследованию, цитируемому Wall Street Journal, люди по всему миру поддерживают идею инструмента для обнаружения ИИ текста в соотношении четыре к одному. Кроме того, OpenAI утверждает, что маркировка не влияет на качество сгенерированного текста.
Препятствия на пути внедрения технологии
Несмотря на положительные аспекты, компания сталкивается с несколькими серьезными вызовами. Один из них — опасность стигматизации ИИ инструментов, особенно для людей, не говорящих на английском как на родном языке. Кроме того, внутренние исследования показывают, что почти 30% пользователей ChatGPT будут реже использовать программу, если будет введена маркировка.
В качестве компромисса обсуждаются альтернативные методы, которые могли бы быть менее противоречивыми, но пока не доказали свою эффективность. Один из них — внедрение метаданных, которые были бы криптографически подписаны и следовательно, не подделаны.
Будущее текста, сгенерированного ChatGPT
Решение OpenAI окажет глубокое влияние на развитие искусственного интеллекта и его взаимодействие с обществом. С одной стороны, существует давление на прозрачность и ответственность, чтобы предотвратить злоупотребления технологией. С другой стороны, есть риск ограничения потенциала ИИ и создания ненужных барьеров для инноваций.
Дилемма перед OpenAI — лишь начало большого разговора об этике, регулировании и социальном воздействии этой революционной технологии.
