В целях повышения безопасности компания OpenAI замедляет обучение передовых
моделей искусственного интеллекта (ИИ). Об этом сообщается
на сайте компании.
Речь идет о приостановке обучения на две недели. Такое решение было принято
после инцидента с платформой Hugging Face во время внутреннего тестирования в
июле и предварительных данных о возможностях готовящейся модели Astra.
Во время «простоя» OpenAI будет усиливать защиту исследовательской
инфраструктуры и расширять системы мониторинга. Компания продолжит проводить
обучение и тестировать в меньших масштабах, чтобы проверить меры безопасности
перед возобновлением более крупных запусков и оценить поведение моделей.
Hugging face — это бесплатная онлайн-платформа, где разработчики со всего
мира делятся готовыми нейросетями для работы с текстом, кодом, графикой и
звуком. Инцидент с ней произошел, когда алгоритмы
проходили
оценку их способности выполнять атаки на основе существующих
уязвимостей.
Свежие комментарии