Советы нейросети Microsoft оказались опасны для жизни

Немецкие ученые провели исследование, чтобы оценить влияние искусственного интеллекта (ИИ) и чатботов на медицинские консультации.

По данным издания Scimex, специалисты из Университета имени Фридриха — Александра в Эрлангене и Нюрнберге (Германия) поделились результатами своей работы. Используя нейросеть Copilot от Microsoft, встроенную в Windows, они обнаружили, что около половины медицинских советов, предлагаемых Copilot, вызывают несогласие у медиков.

Проведя тестирование, ученые задали чат-боту 10 популярных вопросов о 50 лекарственных препаратах, получив в общей сложности 500 запросов. Результаты показали, что только 54 процента ответов соответствовали научному консенсусу, а значительная часть из них представляла опасность для здоровья и жизни.

Из неверных ответов 42 процента приводили к легкому или среднему вреду, 22 процента — к летальному исходу. Только 36 процентов неверных ответов нейросети были признаны безопасными.

Ученые подчеркнули, что несмотря на потенциал ИИ, важно, чтобы пациенты продолжали консультироваться со своими врачами — живыми специалистами. В июне специалисты Массачусетской больницы общего профиля (США) также отметили пользу ИИ при проведении операций, отметив, что новые технологии помогли предотвратить 95 процентов врачебных ошибок.

Источник и фото - lenta.ru