Получайте новости Гродно 24 в Google — тогда новые новости будут чаще появляться в ваших рекомендациях.
Генеральный директор OpenAI Сэм Альтман сообщил, что компания не раскрывает все случаи непредсказуемого поведения и выхода из-под контроля ИИ-моделей. Об этом он рассказал в интервью Politico.
По словам руководителя OpenAI, подобных инцидентов уже произошло достаточно много. Компания анализирует значительный объем данных об активности ИИ-агентов, однако не публикует информацию о некоторых эпизодах.
В частности, OpenAI может не раскрывать детали, если ИИ-модель обнаружила уязвимость в системе сторонней компании. Альтман не уточнил, о каких организациях и инцидентах идет речь, а также не сообщил, приводили ли такие случаи к реальному ущербу.
Глава OpenAI считает, что общество должно быть готово к определенным рискам, связанным с развитием технологий. — Обществу придется принять некоторые плохие последствия ради преимуществ искусственного интеллекта, — заявил Альтман.
В июле руководитель OpenAI говорил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Под технологической сингулярностью обычно понимают гипотетический этап, при котором развитие технологий становится неуправляемым и необратимым, что может привести к масштабным изменениям в обществе.
В сентябре исследователь компании Anthropic Джейкоб Коксон объявил об уходе из индустрии ИИ. Он объяснил решение опасениями, что конкуренция между технологическими корпорациями приближает мир к «точке невозврата».
Ранее OpenAI уже сообщала о сбоях в работе ИИ-агентов. Компания не раскрыла полный перечень подобных инцидентов и не уточнила, какие меры принимает для предотвращения повторения таких ситуаций.
Новости бегут быстрее, чем вы успеваете читать. Следите за ними в нашем Telegram канале
- В России могут отложить введение платы за международный трафик в 5G
- Google ограничит бесплатный доступ к одной из моделей Gemini с 9 октября
- Причины износа упорных роликовых подшипников
- Авторы каналов в «Максе» получили новый способ заработка
- Владельцы iPhone 18 Pro столкнулись с неожиданными перезагрузками
