Група вчених штучного інтелекту представила книгу під назвою “Якщо хтось її створює, всі помруть”, яка попереджає про загрозу для людства. Вони стверджують, що штучна наглядача може з’явитися через 2-5 років і стати непередбачуваними. Ця інформація поширює публікацію »Главком“Посилаючись на джерело дзеркала.
Автори книги, зокрема, засновник Інституту досліджень машинного інтелекту Елізера Юдковського та президента організації Нат -Соарес, кажуть, що штучні наглядачі матимуть можливість приймати рішення, розробляти стратегії та вдосконалювати свої можливості. Вони попереджають, що такий інтелект не призведе до “чесної гри”, але використовуватиме складні маніпуляції і залишатиметься невидимим, поки це не спричинить рішучий удар.
Експерти попереджають, що сьогодні лабораторії створюють системи, реальні можливості яких не повністю зрозумілі. Дослідження показали, що навіть основні моделі штучного нагляду, такі як Chatgpt, можна обійти простими порадами, змушуючи їх виконувати завдання, включаючи військові цілі.
У зв'язку з цим дослідники закликають припинити розвиток штучного наглядача, підкреслюючи, що часу мало часу, а потенціал такого інтелекту може бути неконтрольованим, якщо його не приймати.
Робота OpenAI та їх наслідки
OpenAI випустив спеціальну версію Chatgpt для користувачів до 18 років. Якщо система виявляє, що користувач молодший 18 років, вона автоматично перенаправляється до цієї версії.
Також відомо, що OpenAI відновлює дослідження робототехніки та формує команду фахівців для створення гуманоїдних роботів, які можуть діяти в реальному світі.
Група вчених штучного інтелекту попереджає про можливу загрозу людству з боку штучного нагляду, який, згідно з їх прогнозами, може вийти з -під контролю протягом декількох років. Вчені закликають припинити роботу над такими системами та ввести необхідні обмеження, щоб уникнути негативних наслідків.
