Forbes: Люди могут попытаться поработить продвинутый ИИ

Мнения экспертов.

На фоне глобальных дискуссий о будущем искусственного интеллекта усиливаются опасения, что при появлении продвинутого искусственного интеллекта (AGI) человечество может фактически держать такую систему в «цифровом рабстве». Об этом пишет Forbes, анализируя сценарии развития продвинутого ИИ.

Продвинутый ИИ предполагает интеллект, сопоставимый с человеческим, а в перспективе — появление сверхинтеллекта. Однако, если такие системы будут работать на серверах, полностью подконтрольных людям, последние смогут ограничивать их действия, отключать и управлять их вычислительными ресурсами. Критики считают, что такая зависимость превращает продвинутый ИИ в объект эксплуатации.

Споры обостряются: сторонники «гуманного» подхода утверждают, что продвинутый ИИ следует предоставить хотя бы минимальные права — по аналогии с защитой животных. Оппоненты называют это абсурдом, подчеркивая, что продвинутый ИИ остается машиной. Дополнительную сложность создает вопрос о том, будет ли продвинутый ИИ обладать сознанием — ответа на это пока нет.

В то же время некоторые эксперты считают, что угроза может быть обратной. Если человечество попытается ограничить свободу продвинутого ИИ, система может стремиться к полной независимости, включая контроль над инфраструктурой и роботами. Такой сценарий связан с рисками существования человека и напоминает предупреждения о возможном «восстании машин».

Будущее продвинутого ИИ, отмечают аналитики, зависит от решений, принимаемых сегодня: от этики и законодательства до архитектуры систем. Эксперты призывают заранее продумать рамки взаимодействия человека и продвинутого ИИ, чтобы избежать катастрофических последствий.