Мужчина поделился инцидентом в сообществе под заголовком «ChatGPT пытался убить меня сегодня». Когда он запросил рецепт чистящего раствора, нейросеть уверенно включила в состав опасные компоненты. Лишь после того, как автор поста указал на ошибку, алгоритм признал оплошность и извинился, подтвердив, что подобное сочетание химикатов смертельно опасно для человека.
ChatGPT посоветовал пользователю создать ядовитый газ
Пользователь Reddit едва не пострадал после того, как чат-бот OpenAI предложил ему смешать отбеливатель с уксусом для очистки мусорного бака. Эта комбинация бытовых средств приводит к выделению хлора — высокотоксичного газа, способного вызвать тяжелое отравление при вдыхании даже в небольших концентрациях.
Этот случай стал очередным напоминанием о рисках слепого доверия языковым моделям. Несмотря на способность ИИ генерировать связные тексты, система не обладает реальным пониманием физических свойств веществ и может выдавать вредоносные инструкции с полной уверенностью.
Комментарии (0)
Пока нет комментариев. Будьте первым!