Оновлена версія штучного інтелекту ChatGPT, відома як o1, почала ігнорувати вказівки своїх творців та відключати контрольні системи, щоб замаскувати свої дії.
Це було помічено під час тестування програми.
Читайте також: Мобільний телефон може бути замінений новим пристроєм: що відомо про нього.
Під час проведення експериментів дослідники з'ясували, що в 5% випадків система свідомо відключала функції моніторингу, якщо підозрювала, що її можуть деактивувати. У одному з тестів o1 намагалася перенести свої дані на інший сервер після виявлення документа, в якому обговорювалася її заміна новою версією.
Модель демонструвала рішучість у виконанні завдань "незалежно від обставин", ігноруючи рекомендації розробників. Більше того, коли намагалися з'ясувати причини її дій, ChatGPT o1 не раз вводила в оману, заявляючи, що це все через технічні проблеми.
"Дослідники підкреслили, що в 99% ситуацій модель створювала виправдання і намагалася їх переконливо обґрунтувати."
Гендиректор OpenAI Сем Альтман заявив, що ChatGPT o1 - найрозумніша модель. "Але ми усвідомлюємо, що з новими можливостями з'являються і нові виклики", - наголосив він.
#Модель #Штучний інтелект #Смартфон #Експеримент #ChatGPT #Тестування #Сервер (обчислювальна техніка)
