OpenAI впервые за долгое время выпустила открытые версии СhatGPT

Фото: скриншот

OpenAI впервые с 2019 года выпустила полноценные модели с открытыми весами, то есть такие, с которыми разработчики могут не просто видеть результат, но и напрямую работать с внутренними числовыми параметрами модели. Их можно скачать, запускать локально, модифицировать и интегрировать в собственные системы.

Модели называются gpt-oss-20b и gpt-oss-120b, и содержат соответственно 20 и 120 миллиардов параметров. Они выложены в открытый доступ на GitHub, где можно найти и веса моделей, и код для их запуска.

Они работают даже на Apple Silicon, то есть для их использования не нужен сервер или интернет, всё можно вычислять локально, без внешнего контроля или задержек, связанных с облачной обработкой.

Это важно, ведь большинство современных моделей, включая сам ChatGPT, работают исключительно через API и жёстко контролируются их разработчиками.

OpenAI распространяет эти модели под лицензией Apache 2.0, одной из самых свободных в мире программного обеспечения. Это значит, что их можно использовать как в исследовательских, так и в коммерческих целях без каких-либо ограничений, включая перепаковку или интеграцию в собственные продукты. При этом компания сопровождает релиз политикой добросовестного использования, мол, инструменты должны служить безопасному, ответственному и демократическому применению. 

С технической точки зрения модели выглядят конкурентоспособно: версия на 120 миллиардов параметров, это модель типа Mixture-of-Experts, которая задействует не все параметры одновременно, а только часть, за счёт чего выдаёт результаты быстрее и требует меньше ресурсов.

У обеих моделей контекстное окно 128 тысяч токенов, что позволяет работать с длинными текстами и более сложной логикой.

Карпова Рада
Журналист ATinform