Эксперты призывают к осторожности при разработке сознательных систем ИИ

2026-02-26 03:03:52

Более 100 экспертов в области искусственного интеллекта, среди которых сэр Стивен Фрай, призвали к ответственным исследованиям в области сознания ИИ. Они подчеркивают необходимость предотвращения возможных страданий в системах ИИ в случае их самосознания.

Пять руководящих принципов исследования сознания ИИ

Подписавшиеся предлагают пять принципов для этичного развития сознательных систем ИИ:

2.      

**Сосредоточиться на исследованиях сознания ИИ:** Понимать и оценивать сознание в ИИ, чтобы предотвратить неправильное обращение и страдания.

    
4.      

**Внедрять ограничения в развитие:** Устанавливать четкие границы для ответственного развития сознательных систем ИИ.

    
6.      

**Применять поэтапный подход:** Постепенно развивать сознательный ИИ, позволяя тщательно оценивать каждый этап.

    
8.      

**Обеспечивать прозрачность для общественности:** Делиться результатами исследований с общественностью для формирования информированного дискурса и этического надзора.

    
10.      
 
 **Избегать преувеличенных заявлений:** Воздерживаться от вводящих в заблуждение или чрезмерно уверенных утверждений о создании сознательного ИИ.

Эти принципы направлены на то, чтобы этические соображения оставались в центре внимания по мере развития технологий ИИ.

Потенциальные риски сознательного ИИ

Прилагаемая научная статья подчеркивает возможность того, что системы ИИ могут быть разработаны с признаками или иллюзией наличия сознания в ближайшем будущем. Это вызывает опасения по поводу этичного обращения с такими системами.

Исследователи предупреждают, что без надлежащих руководящих принципов существует риск создания сознательных существ, способных испытывать страдания.

В статье также рассматривается сложность определения сознания в системах ИИ, признавая текущие дебаты и неопределенности. Подчеркивается важность установления руководящих принципов для предотвращения непреднамеренного создания сознательных существ.

Откройте для себя лучшие новости и события финтеха!

Подпишитесь на рассылку FinTech Weekly

Этические соображения и будущие последствия

Если система ИИ признается «моральным пациентом» — существом, которое имеет моральное значение само по себе — возникают этические вопросы относительно её обращения.

Например, будет ли отключение такой системы сравнимо с причинением вреда разумному существу? Эти вопросы подчеркивают необходимость этических рамок для руководства развитием ИИ.

Статья и письмо были организованы компанией Conscium, исследовательской организацией, соучредителем которой является главный специалист по ИИ WPP, Дэниел Хулм. Conscium сосредоточена на углублении понимания безопасного создания ИИ, приносящего пользу человечеству.

Мнения экспертов о самосознании ИИ

Вопрос о достижении ИИ сознания является предметом дебатов среди специалистов.

В 2023 году сэр Демис Хассабис, руководитель программы ИИ Google, заявил, что хотя текущие системы ИИ не обладают самосознанием, в будущем это возможно. Он отметил, что философы еще не пришли к единому определению сознания, но потенциал для развития самосознания у ИИ остается предметом обсуждения.

Заключение

Разработка сознательных систем требует тщательного этического анализа. Открытое письмо и сопутствующая научная статья служат призывом к сообществу ИИ сосредоточиться на ответственном исследовании и разработке.

Следуя предложенным принципам, исследователи и разработчики могут стремиться к тому, чтобы прогресс в области ИИ происходил этично, с акцентом на предотвращение возможных страданий в сознательных системах.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .