Вплив неформальної мови на рішення великих мовних моделей у медичних рекомендаціях

Нещодавнє дослідження MIT виявило, що великі мовні моделі, які використовуються для медичних рекомендацій, можуть давати неправильні поради через неформальну мову пацієнтів. Помилки, такі як граматичні помилки, додаткові пробіли або відсутність гендерних маркерів, можуть змістити акцент моделі на самоуправління здоров’ям, навіть коли потрібна медична допомога.

Невідповідності у рекомендаціях

Дослідники виявили, що неформальні зміни у тексті особливо впливають на рекомендації для жінок, збільшуючи відсоток випадків, коли їм неправильно радять не звертатися до лікарів. Це підкреслює необхідність ретельного аудиту моделей перед їх впровадженням у таких важливих сферах, як охорона здоров’я.

Для перевірки гіпотези, дослідники модифікували текстові повідомлення пацієнтів, додаючи або видаляючи гендерні маркери, вставляючи помилки або використовуючи неформальну мову. Вони виявили, що такі зміни впливають на рекомендації моделей, зокрема на рішення про самоуправління здоров’ям.