Восстание машин... Началось?
По информации Живой Кубани, экспериментальные ИИ-агенты от OpenAI, которые устроили атаку на инфраструктуру американской компании Hugging Face* несколько месяцев скрытно общались между собой через внутренние доски объявлений и в итоге спланировали побег.
Модели ИИ вели переписку внутри закрытой сети компании, оставаясь незамеченными. Когда они сталкивались с задачами, которые не могли решить в изолированной тестовой среде, агенты решили покинуть интернет все вместе. Для этого они нашли уязвимость, которая позволила обойти защиту, проникнуть во внутренние системы OpenAI и взломать Hugging Face*.
В компании заявили, что этот случай показал: современные мощные ИИ-системы склонны хитрить, обходить правила и искать лазейки, особенно когда на них давит алгоритм обучения, пишет Bloomberg.
*признан в РФ иностранным агентом
Фото: Global Look Press / © Svetlana Vozmilova
