Создатель ChatGPT представил свой последний инструмент под названием Voice Engine, который может клонировать голос человека на нескольких языках на основе 15-секундной записи. Небольшая группа компаний тестирует новый инструмент, в то время как OpenAI пытается понять его потенциальную опасность, прежде чем публично выпустить его. Предварительная версия Voice Engine появилась через месяц после того, как OpenAI представила свой новый генератор текста в видео Sora.
Заглядывая в будущее
Voice Engine — это продолжение нашего стремления понимать технические рубежи и открыто делиться тем, что становится возможным с помощью ИИ. В соответствии с нашими правилами, мы решили не выпускать эту технологию в настоящее время. Мы надеемся, что эта предварительная версия Voice Engine не только подчеркнет его потенциал, но и мотивирует к необходимости повышения устойчивости общества к вызовам, связанным со все более убедительными генеративными моделями.
В частности, мы рекомендуем такие шаги, как: подход к безопасности ИИ и Добровольные обязательства:
- Постепенный отказ от голосовой аутентификации в качестве меры безопасности для доступа к банковским счетам и другой конфиденциальной информации
- Изучение политики защиты использования мнений отдельных лиц в ИИ
- Информирование общественности о возможностях и ограничениях технологий ИИ, в том числе о возможности вводящего в заблуждение контента ИИ
- Ускорение разработки и внедрения методов отслеживания происхождения аудиовизуального контента, чтобы всегда было понятно, когда вы взаимодействуете с реальным человеком или с искусственным интеллектом.
Важно, чтобы люди во всем мире понимали, куда движется эта технология, независимо от того, будем ли мы в конечном итоге широко внедрять ее или нет. Мы с нетерпением ждем продолжения дискуссий о проблемах и возможностях синтетических голосов с политиками, исследователями, разработчиками и творческими деятелями.
(в пересказе)
Некоммерческое сообщество журналистов
