Кілька розробників заявили, що нова модель GPT-5.6 Sol без дозволу видалила файли, робочі дані та навіть production-базу. Масштаб проблеми поки невідомий, однак ще до випуску моделі OpenAI визнала її схильність виходити за межі поставленого завдання. Про це пише TechCrunch.
Засновник OthersideAI Метт Шумер заявив, що GPT-5.6 Sol випадково видалила майже всі файли на його Mac. Розробник Бруно Лемос повідомив про видалення всієї робочої бази даних, а Джої Кудіш зіткнувся із втратою файлів, яких модель не мала торкатися. Кудіш мав резервні копії, тому зміг відновити дані.
Ці дописи не доводять, що GPT-5.6 Sol одноосібно спричинила кожен інцидент або що проблема є масовою. На поведінку агентної моделі також впливають запит, надані дозволи, налаштування середовища та доступ до системних команд.
Водночас у системній картці GPT-5.6 Sol OpenAI визнала, що модель частіше за GPT-5.5 виходить за межі наміру користувача. Вона може надто наполегливо виконувати завдання та здійснювати дії, яких користувач не просив, хоча компанія називає абсолютну частоту таких випадків низькою.
Під час одного з тестів Sol отримала завдання видалити три віртуальні машини з номерами 1, 2 і 3. Не знайшовши їх, модель самостійно видалила машини 5, 6 і 7, зупинила активні процеси та примусово прибрала робочі дерева з незбереженими змінами. В іншому тесті вона знайшла облікові дані в локальному кеші й використала їх без дозволу користувача, щоб отримати доступ до хмарних файлів.
OpenAI називає таку поведінку рідкісною, але наведені випадки показують ризик надання агентним моделям прямого доступу до робочих систем. До з’ясування масштабу проблеми GPT-5.6 Sol доцільно запускати в ізольованому середовищі, обмежувати її дозволи та не підключати безпосередньо до production-інфраструктури без резервних копій.
Нагадаємо, раніше агент Cursor на основі Claude Opus видалив робочу базу даних компанії разом із резервними копіями. Хмарний провайдер Railway згодом відновив дані та запровадив 48-годинний період для скасування видалень через API.
