OpenAI предоставит правительству США доступ к ИИ-моделям перед их запуском

Компания OpenAI подтвердила готовность соблюдать положения нового исполнительного указа президента Дональда Трампа, касающегося контроля над разработками в сфере искусственного интеллекта. В рамках добровольного сотрудничества разработчик позволит государственным органам оценивать возможности алгоритмов до момента их официального релиза.

Детали правительственного контроля

Изначально проект указа предусматривал обязательную передачу моделей на проверку за 90 дней до выхода. Однако после консультаций с представителями индустрии, выражавшими опасения относительно замедления темпов инноваций, документ был переработан. В итоговой версии требования были смягчены:

• Срок предварительной проверки сокращен до 30 дней.
• Участие компаний в процессе тестирования носит добровольный характер.
• Вводится система бенчмаркинга для оценки кибербезопасности моделей.
• Разработчики должны содействовать определению статуса так называемых пограничных моделей, что может привести к ограничению их распространения и продаж.

Позиция OpenAI и реакция экспертов

Руководство OpenAI отмечает, что демократические институты должны играть ключевую роль в вопросах внедрения технологий. Компания призывает правительства формировать гибкие регуляторные органы, способные эффективно адаптироваться к быстро меняющимся условиям технологического прогресса.

Несмотря на готовность OpenAI к диалогу, ряд экспертов и политиков подвергли новый указ критике. По мнению оппонентов, смягченная версия документа не способна обеспечить достаточный уровень надзора за потенциально опасными разработками. Представители законодательных органов отмечают, что подобная политика создает риски бесконтрольного развития технологий, сравнивая сложившуюся ситуацию с отсутствием должного регулирования в отрасли.

* — деятельность компании запрещена на территории РФ