Nvidia представила сервис NeMo Guardrails, который «предостережёт» ChatGPT и её аналоги от ошибок и токсичности
Компания опубликовала код на GitHub.
- NeMo Guardrails обеспечит точность, актуальность и безопасность ответов чат-ботов, основанных на больших языковых моделях (LLM), объявила Nvidia.
- Сервис позволяет разработчикам устанавливать три типа границ. Тематические предотвращают отклонение в «нежелательные области». Например, не позволяют сервисным ботам отвечать на вопросы о погоде. Ограждения безопасности могут отфильтровывать «нежелательные выражения» и гарантировать выдачу информации только из проверенных источников. Охраняющие — ограничивают связь ботов со сторонними приложениями.
- У сервиса открытый исходный код. Большая часть фреймворка NeMo доступна на GitHub. В Nvidia добавили, что устанавливать параметры в NeMo Guardrails сможет любой разработчик, «для этого не надо быть экспертом по машинному обучению или специалистом по данным».
- Nvidia — крупнейший производитель процессоров для обучения ИИ-моделей. Компания занимает более 95% рынка чипов для искусственного интеллекта, привело оценку издание CNBC.
Чтобы сэкономить на ИИ-разработках, Meta* запускала модели на неподходящих CPU-процессорах и отстала в «гонке» — Reuters
И в конечном счёте всё равно потратила «миллиарды долларов» на дорогие процессоры от Nvidia. В сентябре 2022 года глава Meta* Марк Цукерберг провёл совещание с ведущими сотрудниками отдела, …
