Meta открыла доступ к новой языковой нейронной сети

Владелец Facebook, компания Meta Platforms, открыла доступ к большой языковой модели для исследований искусственного интеллекта (ИИ), передает Tengrinews.kz со ссылкой на сайт Meta.

Как говорится в блоге компании, Open Pretrained Transformer (OPT-175B) имеет 175 миллиардов параметров, что соответствует коммерческим языковым моделям, таким как GPT-3 OpenAI. Эти типы систем предоставили разработчикам возможности для использования, такие как автоматический копирайтинг, модерация контента или даже кодирование. Однако они могут генерировать предвзятый, токсичный и неточный текст, что делает их использование рискованным.

Нейросетевые языковые модели - это большие нейронные сети, которые обучаются предсказывать следующее слово или часть слова в тексте с учетом предыдущего контекста. Некоторые исследователи даже предположили, что языковые модели могут стать путем к AGI - сильному искусственному интеллекту человеческого уровня.

Известные нейронные модели, такие как GPT от OpenAI, умеют выполнять машинный перевод, отвечать на вопросы и другие задачи без специализированного обучающего набора. Однако некоторые исследователи обеспокоены вредом, который может быть распространен через нейросетевые языковые модели.

Кроме того, отмечается, что запатентованные инструменты часто недоступны академическим ученым, которые хотят исследовать проблемы технологии ИИ - как с точки зрения доступа к базовому коду модели, так и с точки зрения наличия ресурсов для создания и обучения собственных языковых моделей. Однако последняя версия кода Meta может помочь им изучить эти системы более подробно.

В самой компании подчеркнули, что доступ к модели будет предоставлен академическим исследователям и людям, связанным с правительственными организациями, гражданским обществом и академическими организациями, наряду с отраслевыми исследовательскими лабораториями по всему миру. Полная и самая большая система OPT-175 доступна исследователям только по запросу для некоммерческого применения. Релиз будет включать в себя предварительно обученные модели и код для их обучения и использования.

Код для небольших предварительно обученных моделей Meta можно найти здесь. Если вы исследователь и хотите получить доступ к открытому исходному коду OPT-175B, можете заполнить форму по этой ссылке.

Ранее компания Meta Platforms, материнская организация Facebook, объявила о создании суперкомпьютера с искусственным интеллектом (ИИ), который должен стать самым быстрым в мире.

Мы открыли еще один Telegram-канал. О деньгах и казахстанском бизнесе. Подписывайтесь на Tengri Деньги!

Өзекті жаңалықтарды сілтемесіз оқу үшін Telegram желісінде парақшамызға тіркеліңіз!