Мужчина поделился инцидентом в сообществе под заголовком «ChatGPT пытался убить меня сегодня». Когда он запросил рецепт чистящего раствора, нейросеть уверенно включила в состав опасные компоненты. Лишь после того, как автор поста указал на ошибку, алгоритм признал оплошность и извинился, подтвердив, что подобное сочетание химикатов смертельно опасно для человека.
ChatGPT посоветовал пользователю создать ядовитый газ
Пользователь Reddit едва не пострадал после того, как чат-бот OpenAI предложил ему смешать отбеливатель с уксусом для очистки мусорного бака. Эта комбинация бытовых средств приводит к выделению хлора — высокотоксичного газа, способного вызвать тяжелое отравление при вдыхании даже в небольших концентрациях.
Этот случай стал очередным напоминанием о рисках слепого доверия языковым моделям. Несмотря на способность ИИ генерировать связные тексты, система не обладает реальным пониманием физических свойств веществ и может выдавать вредоносные инструкции с полной уверенностью.
/https://i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2025/M/W/3lPIAaSAG7iqbUfQeSUQ/113060715-ukraines-president-volodymyr-zelensky-attends-a-joint-press-conference-with-turkeys-pres.jpg)
Комментарии (0)
Пока нет комментариев. Будьте первым!