#ИИ #OpenAI $ORCL $MSFT Искажённая реальность: Несмотря на рекламу и широкое распространение, некоторые инструменты на основе ИИ совсем не готовы для использования. Например широко рекламируемый Whisper от OpenAI. Инженеры, исследовавшие его работу, говорят о крайне высоком проценте галлюцинаций. Цифры разнятся, но оны вызывают большие опасения: в первом исследовании выявлены ошибки в восьми из каждых десяти аудиотранскрипций; во втором примерно в половине из более чем 100 часов расшифрованных аудиозаписей; в третьем исследовании галлюцинации найдены почти в каждой из 26 000 транскрипций. https://apnews.com/article/ai-artificial-intelligence-health-business-90020cdf5fa16c79ca2e5b6c4c9bbb14?utm_source=newsshowcase&utm_medium=gnews&utm_campaign=CDAQ0IeFzvjCjKusARjL1qDG_pzthZ4BKg8IACoHCAowhO7OATDh9Cg&utm_content=bullets Конечно в своей рекламе OpenAI добавляют ремарку о том, что не следует использовать в «областях высокого риска», но при этом описывает ИИ как обладающий «надёжностью и точностью, близкими к человеческому уровню». Несмотря на все предупреждений продукты на базе Whisper используются по всему миру в Медицинских центрах, где при расшифровке консультаций появляются диагнозы и процедуры, которые даже не упоминались врачом или пациентом. Но создание субтитров для глухонемых ещё коварнее - они даже теоретически не смогут определить галлюцинацию, в которой ИИ добавил расистские комментарии, которых не было в оригинале. При этом Whisper интегрирован в некоторые версии флагманского чат-бота OpenAI ChatGPT и является встроенным предложением в облачных вычислительных платформах Oracle и Microsoft.