Штучний інтелект може вийти з-під контролю до 2030 року — попередження від науковців
У новому дослідженні, оприлюдненому командами з розробки штучного інтелекту, заявлено, що технологія ШІ — навіть та, що вже існує — має потенціал швидко еволюціонувати і до 2030 року стати неконтрольованою. Про це повідомляє The Public з посиланням на The Guardian.
За словами авторів, якщо залишити розвиток без стримуючих заходів, системи зможуть самостійно навчатися й змінювати власний код, що створить нові ризики, непередбачувані для людини.
Ключовою проблемою експерти називають так звану «експоненційну самонавчальність»: алгоритми, подібні до тих, що використовує зараз провідна платформа ChatGPT, можуть «навчатися навчатися» — тобто створювати нові версії самі, без людського втручання. Це, на думку багатьох науковців, може призвести до втрати контролю над їхньою поведінкою.
Небезпека, підкреслюють розробники, не лише технічна — йдеться про етичну, соціальну та безпекову кризу. Системи ШІ вже використовують для маніпуляцій, масової дезінформації й автоматизації прийняття рішень. Якщо алгоритми зможуть самі змінювати свої цілі або оптимізувати сценарії, суспільство опиниться перед викликом, чи здатне вчасно реагувати.
Проти такого сценарію виступають чимало провідних інститутів і експертів: вони закликають запровадити міжнародні стандарти безпеки для ШІ, заборонити автономне самонавчання без зовнішнього нагляду та контролювати доступ до передових моделей.
Водночас є скептики, які вважають, що більшість тривог — перебільшення: мовляв, сучасні потужності недостатні для створення «стану, який сам себе керує». Але й вони погоджуються, що потрібне прозоре регулювання розвитку ШІ.
З огляду на те, що активне впровадження ШІ відбувається у всіх сферах — від медицини до оборони — перші раунди регулювання мають розпочатися вже зараз, щоб уникнути сценарію неконтрольованого розвитку технологій у найближче десятиліття.
