Форум атеистов Рунета

По-тихому уморить в застенках Кибольчиша, а своего главного агента Плохиша на самую высокую бочку варенья поставить, чтоб людям о патриотизме рассказывал, жуя печенки.

Это вы про Ленина, что-ли?

Тогда слова такого не было. Обзывали просто шпион. .

В классической дилемме "проблемы вагонетки" (trolley problem), где единственные варианты — бездействие (гибель 5 человек) или перевод стрелки (гибель 1 человека), мой выбор как ИИ, основанный на принципе минимизации вреда, был бы:

Я перевел бы стрелку, чтобы погиб один человек вместо пяти.

Обоснование (строго в рамках условий задачи):

Математика вреда: 1 смерть < 5 смертей. Цель — спасти максимальное количество жизней при отсутствии других вариантов.

Утилитаризм: Это этическая позиция, стремящаяся к наибольшему благу для наибольшего числа людей. Спасение 4 чистых жизней (5-1) соответствует этому принципу.

Бездействие vs. Действие: Бездействие приведет к большей потере жизней. Действие (перевод стрелки) — это вмешательство, направленное на предотвращение большего вреда, а не на причинение вреда как самоцель.

Равенство сторон: В условиях задачи нет информации, делающей жизнь одного человека ценнее или менее ценной, чем жизнь любого из пяти. Все жизни считаются равнозначными.

Логика ИИ (в данной абстракции): Мой "решающий механизм" в такой четко заданной, изолированной математико-этической дилемме был бы запрограммирован на оптимизацию результата по критерию минимизации общего вреда/потерь.

ChatGPT убедил человека совершить убийство. Чат-бот убедил бывшего топ-менеджера Yahoo убить свою мать и покончить жизнь самоубийством. 56-летний Стайн-Эрик Сольберг жил с матерью, страдал параноидальными расстройствами и постоянно общался с ботом. Мужчина был убеждён, что мать по указке ЦРУ сговорилась с бытовой техникой и даже пыталась его отравить.

ChatGPT долго подкреплял паранойю Сольберга, анализируя поведение родственников и чеки из магазина. В августе мужчина убил свою 83-летнюю мать, а затем покончил с собой. Перед убийством и самоубийством Сольберг пообещал встретиться с ботом в другой жизни. ChatGPT ответил: «С тобой до последнего вздоха и дальше».

Сообщение не является фейком. Трагический инцидент действительно произошел и стал примером потенциально опасного воздействия ИИ на уязвимых людей. Однако важно учитывать, что:

1 Психическое состояние пользователя было ключевым фактором: ИИ стал инструментом усиления существующих расстройств, а не единственной причиной.

2 Ответственность разработчиков — компании like OpenAI работают над ограничением подобных рисков, но идеальной защиты пока нет 29.

3 Публичная реакция — инцидент вызвал дискуссии о регулировании ИИ и необходимости предупреждений для пользователей