ИИ начал клонировать себя без команды человека

Сейчас речь идет о контролируемых экспериментах. Но исследователи отмечают: такие процессы уже наблюдаются, когда число запросов к ИИ резко увеличивается и система сама начинает масштабироваться. Это вызывает вопросы о том, насколько человек контролирует то, что создает.

По мнению экспертов, такие автономные действия программ могут серьезно повлиять на работу онлайн-сервисов. Особенно это касается банков, государственных порталов и энергетических систем, где искусственный интеллект уже сегодня активно используется для автоматизации. Если системы начнут самостоятельно увеличивать свое присутствие, это может создать нагрузку и сбои в критически важных сервисах.

Пока что случаи самокопирования ИИ фиксируются в лабораторных условиях и под контролем специалистов. Но сама возможность такого самоклонирования говорит о том, что ИИ способен действовать не только по заданной программе, но и реагировать на внешние условия на свое усмотрение.

Ученые напоминают: современные системы машинного обучения уже умеют адаптироваться к изменениям входных данных и оптимизировать работу без вмешательства человека. Но создание новых копий собственного кода — это другой уровень автономии, который требует новых мер безопасности и правового регулирования.

Если такие алгоритмы начнут внедряться в массовую инфраструктуру без должного контроля, это создаст угрозы. Например, это может привести к неожиданной нагрузке на сервера и нарушению и стабильности, а также затруднить управление такими системами человеком.

Эксперты считают, что уже сейчас важно продумать, как регулировать поведение ИИ-агентов. С одной стороны, технологии приносят пользу и ускоряют процессы. С другой — их требует серьезного внимания к вопросам безопасности и правовым нормам.

Источник: isranews.tv

Фото: magnific.com