РСпектр: связь, ИТ, кибербезопасность
3.56K subscribers
6.17K photos
60 videos
10 files
8.2K links
Телеграм-канал портала RSpectr.com

Самое интересное о связи, ИТ, кибербезопасности, медиа и регулировании в этих сферах.

Контакт: @Lukouchikit
Download Telegram
February 28
February 28
February 28
February 28
February 28
February 28
February 28
February 28
March 3
March 3
March 3
March 3
March 3
March 3
Forwarded from НТЦ ГРЧЦ
🤖Галлюцинации ИИ: когда искусственный интеллект ошибается

Генеративный ИИ умеет выдавать сложные ответы, но иногда он просто… придумывает факты. Эксперты называют это галлюцинациями – феноменом, при котором ИИ уверенно сообщает ложную информацию, даже если пользователь оспаривает ответ и просит его уточнить.

Насколько это серьёзно?
• 51% ответов ИИ на вопросы о новостях содержат ошибки (исследование BBC, 2025).
• Чат-боты OpenAI, Microsoft и Google давали неверные сведения о политиках и событиях.
• Из-за неточностей Amazon и Apple перенесли обновления Alexa и Siri.

Почему это происходит?
• ИИ подбирает слова, ориентируясь на вероятности, а не на факты.
• Ошибки в обучающих данных или их нехватка ведут к искажениям.
• Злоумышленники могут намеренно подсовывать фальшивые данные в обучение ИИ.

Как с этим бороться?
• Проверка данных через внешние источники.
• Улучшение алгоритмов и фильтрация ложных ответов.
• Человеческий контроль над важными решениями ИИ.

Можно ли полностью избавиться от галлюцинаций?
Только если полностью убрать «творческий» потенциал ИИ, но тогда он не сможет писать стихи, сценарии или придумывать креативные идеи. Разработчики ищут золотую середину между точностью и креативностью.

💻 Подробнее – в новом материале на сайте Научно-технического центра
Please open Telegram to view this post
VIEW IN TELEGRAM
March 3
March 3
March 3