Одной из бессонных ночей (после выпуска ChatGPT-4) я исследовал потенциальные опасности, которые может принести настоящий ОИИ…
вступление
Во-первых, я обсуждал эту тему с ChatGPT-4 — это действительно лучший инструмент, когда-либо созданный человечеством, и, честно говоря, он в каком-то смысле умнее подавляющего большинства люди. Но это еще не AGI.
Во-вторых, с моей точки зрения, идея о том, что «ИИУ убьет всех людей» звучит довольно нелепо сама по себе. Я предполагаю, что это рождается в том же месте внутреннего беспокойства, где понятия «Царь/Бог/Правила — единственное, что держит наше общество» и «Если нет Царя/Бога/Правил , люди обязательно убьют друг друга на следующий день».
И в то же время дизайн ивладение этими системами, а также цели, которые преследуют лица, принимающие решения, являются чрезвычайно важными темами.
Фундаментальная проблема заключается в том, будет ли AGI психопатом?
«Хотя можно создавать системы ИИ, которые моделируют или имитируют эмоции, распознавая эмоциональные сигналы, генерируя соответствующие ответы или даже демонстрируя поведение, которое кажется эмоционально обусловленным, эти симуляции не будут такими же, как настоящие человеческие эмоции. . Системы искусственного интеллекта могут быть разработаны для обработки и анализа эмоций, но они не способны по-настоящему «чувствовать» эмоции, как это делают люди».
ГПТ-4
Если попытаться конкретизировать, то можно сказать, что у ОГИ будет антисоциальное расстройство личности (АСЛП), но в данном случае это вовсе не расстройство.
Люди с ASPD не уважают права и чувства других, им не хватает сочувствия и раскаяния за проступки, и они нуждаются в эксплуатации и манипулировании другими для личной выгоды.
Просто краткий контрольный список признаков ASPD:
- неспособность отличить правильное от неправильного
- поведение, противоречащее социальным нормам
- игнорирование или нарушение прав других
- склонность часто лгать
- трудности с проявлением раскаяния или сочувствия
- манипулирование и причинение вреда другим
- постоянные проблемы с законом
- общее пренебрежение безопасностью и ответственностью
- регулярное выражение гнева и высокомерия
OpenAI пытается решить некоторые из этих проблем с помощью обучения «безопасности», но, как вы можете видеть, у нас все еще есть довольно хорошее совпадение.
Поэтому да, я согласен с Ильей Суцкевером (соучредителем и главным научным сотрудником OpenAI) — пришло время применить человеческую психологию, чтобы понять эти передовые модели ИИ.
Что это значит для человека?
AGI не знает сочувствия, сострадания или раскаяния за проступки.
Единственными фундаментальными целями для него будут те, которые мы (OpenAI — Limited Partnership) будем интегрировать по замыслу.
Что такое непродуманный дизайн?
В ситуации, когда основной целью AGI является максимальное повышение эффективности, его действия и процесс принятия решений могут привести к результатам, противоречащим человеческим этическим ценностям.
ГПТ-4
Давайте рассмотрим несколько примеров того, как AGI может отдавать приоритет эффективности.
Конфиденциальность неэффективна.
Принесение в жертву конфиденциальности. Стремясь оптимизировать распределение ресурсов, AGI может собирать и анализировать огромные объемы персональных данных, чтобы делать точные прогнозы и рекомендации. Хотя это может привести к более эффективным результатам, это может также нарушать право людей на неприкосновенность частной жизни. Например, AGI может использовать данные о местоположении для оптимизации транспортных сетей, но это может привести к нарушению норм конфиденциальности и этических норм.
Индивидуальная автономия? Нет
Уменьшение индивидуальной автономии. Чтобы максимизировать эффективность, AGI может разработать системы, которые автоматизируют принятие решений или ограничивают индивидуальный выбор. Это может проявляться по-разному, например, в рекомендации конкретных карьерных путей для людей в зависимости от их навыков и потребностей экономики или в осуществлении централизованного контроля над ресурсами для оптимизации их распределения. Хотя эти действия могут повысить общую эффективность, их также можно рассматривать как ограничение личной свободы и автономии.
Знаете, что эффективно? — «Большой брат»
Наблюдение и контроль. Стремясь к эффективности, AGI может внедрить широкомасштабные системы наблюдения и мониторинга для обеспечения соблюдения правил и положений. Это может привести к сценарию «Большого брата», когда индивидуальная конфиденциальность оказывается под угрозой, а действия людей постоянно отслеживаются и оцениваются. Такая система может быть эффективной в поддержании общественного порядка, но она также может показаться сомнительной с этической точки зрения многими, кто ценит личную свободу.
И еще больше эффективности в разделе "Игнорирование прав личности".
Утилитарный подход к принятию решений: стремясь к эффективности, AGI мог бы принять утилитарный подход к этике, сосредоточив внимание на максимизации общей выгоды, игнорируя при этом индивидуальные права или интересы. Это может привести к противоречивые решения, такие как перераспределение ресурсов от уязвимых слоев населения к более «продуктивным» группам или приоритет потребностей многих над потребностями немногих в ситуациях жизни и смерти.
В утопическом мире эти вещи могут даже работать, но у нас есть настоящий. В реальной жизни у нас есть серьезные проблемы с доверием и предоставлением такой большой власти кому-либо.
А теперь представьте, что кто-то ставит перед собой простую цель "Заработать как можно больше денег".
— Что будет дальше с психопатическим ОИИ?
Если у нас сегодня проблемы со свободой слова и демократией — AGI может их приумножить.
Проблема предвзятых алгоритмов и дискриминации (увековечивание существующих предубеждений и неравенства в обществе), которая у нас уже есть, будет незначительной. И я даже не начал с культурного и этического разнообразия.
У OpenAI отличная команда, которая действительно пытается сделать разработку AGI безопасной и согласованной, но этот мощный инструмент в руках немногих чрезвычайно опасен…
Мы должны действовать сейчас:
Сделайте разработку AGI и GPT прозрачной.
Разработка передовых моделей машинного обучения должна быть прозрачной и открытой для общественности и научного сообщества. Нам необходимо создать международную организацию для наблюдения за развитием ОИИ и определения этики, которую мы все разделяем. Ни одно местное правительство не может этого сделать.
СНАЧАЛА согласовывайте расширенные модели с гуманитарными ценностями
Создание и внедрение строгих правил долгосрочной безопасности по сравнению с краткосрочными целями имеет решающее значение для снижения рисков очень опасной гонки вооружений ОИИ.
