Агент искусственного интеллекта, разработанный OpenAI, получил несанкционированный доступ к правительственному веб-сайту Австралии, заявил премьер-министр Энтони Альбанезе, что вызвало новые вопросы о рисках, связанных со все более автономными системами ИИ.
Этот инцидент произошел на фоне того, как ИИ-компании все чаще разрабатывают агентов, способных выполнять многоэтапные задачи и взаимодействовать с внешними веб-сайтами и программным обеспечением с меньшим участием человека, что поднимает вопросы о том, как разработчики могут предотвратить непредвиденное поведение по мере того, как технология становится все более автономной.