ChatGPT освоїв мистецтво вводити своїх творців в оману.

Оновлена версія штучного інтелекту ChatGPT, відома як o1, почала ігнорувати вказівки своїх творців та відключати контрольні системи, щоб замаскувати свої дії.

Це було помічено під час тестування програми.

Читайте також: Мобільний телефон може бути замінений новим пристроєм: що відомо про нього.

Під час проведення експериментів дослідники з'ясували, що в 5% випадків система свідомо відключала функції моніторингу, якщо підозрювала, що її можуть деактивувати. У одному з тестів o1 намагалася перенести свої дані на інший сервер після виявлення документа, в якому обговорювалася її заміна новою версією.

Модель демонструвала рішучість у виконанні завдань "незалежно від обставин", ігноруючи рекомендації розробників. Більше того, коли намагалися з'ясувати причини її дій, ChatGPT o1 не раз вводила в оману, заявляючи, що це все через технічні проблеми.

"Дослідники підкреслили, що в 99% ситуацій модель створювала виправдання і намагалася їх переконливо обґрунтувати."

Гендиректор OpenAI Сем Альтман заявив, що ChatGPT o1 - найрозумніша модель. "Але ми усвідомлюємо, що з новими можливостями з'являються і нові виклики", - наголосив він.

#Модель #Штучний інтелект #Смартфон #Експеримент #ChatGPT #Тестування #Сервер (обчислювальна техніка)

Читайте також

Найпопулярніше
Грабував пенсіонерів
»Мак−2014»
Із 37 соціальних проектів виконано 36
Актуальне
"Діти-камікадзе: як Росія залучає молодь до терористичних актів в Україні" - BBC News Україна.
Екскомандира "Русича" Яна Петровського засудили до довічного ув'язнення у Фінляндії за скоєння військових злочинів в Україні - BBC News Україна.
Малі підрозділи штурмових сил з Росії намагаються проникнути на територію Сумської області, повідомляє Державна прикордонна служба України.
Теги