В книге о том, как ИИ искажает правду, нашли выдуманные ИИ цитаты

[XenBaza]

Автор книги «Будущее правды: Как ИИ трансформирует реальность» Стивен Розенбаум признал, что часть «цитат» в ней выдумана ИИ, а некоторые сильно искажены.

Галлюцинации «случайно попали в текст», когда его редактировали с помощью ChatGPT и Claude. Ирония в том, что «Будущее правды» - рассуждение о том, как ИИ влияет на представления о фактах и доверие.

Журналистке Каре Суишер, например, приписали рассуждение, что «самая сложная модель ИИ подобна зеркалу: отражает нашу мораль, отполированную и красноречивую, но в конечном итоге пустую под поверхностью».

Суишер ответила, что никогда такого не говорила, и в версии ChatGPT звучит так, будто у нее «палка в заднице».

Автор попытался представить скандал как дополнительное подтверждение идеи книги: история про вымышленные цитаты, которые он не заметил, послужит предупреждением о рисках использования ИИ. Будущие издания обещают исправить.