Рада ухвалила закон про мобілізацію: що змінюється для українців
Долар 41.54 ₴ (+0.12), євро 44.98 ₴ (-0.05)
Кременчук: +18°C, ясно. Увечері до +12°C.
День працівників соціальної сфери. Всесвітній день сміху.
Сьогодні святкують: Максим, Віктор, Тамара
Овен: Хороший день для нових починань. Зірки сприяють ініціативі.
2004 — Кіпр, Чехія та 8 інших країн вступили до Євросоюзу
Паливо знову подорожчало: А-95 переступив психологічну межу
Apple iPhone 17 Air: все що відомо про найтоншу модель
Дослідницька група з MIT's Laboratory for Information and Decision Systems (LIDS) розробила новаторський метод для оцінки точності текстових класифікаторів та їх подальшого вдосконалення. Такі класифі
Дослідницька група з MIT's Laboratory for Information and Decision Systems (LIDS) розробила новаторський метод для оцінки точності текстових класифікаторів та їх подальшого вдосконалення. Такі класифікатори дедалі частіше використовуються у різних сферах, від новин та оглядів до фінансових та медичних консультацій. Однак їх точність залишається критично важливою, щоб уникнути помилкових оцінок, які можуть мати серйозні наслідки.
Команда розробила програмне забезпечення, яке допомагає не тільки оцінити ефективність класифікаторів, але й покращити їх. Вони використовують синтетичні приклади - речення, які можуть обманути класифікатор, змушуючи його здійснювати помилкові рішення. Це дозволяє виявити слабкі місця у системі. Використовуючи моделі великої мови (LLM), дослідники можуть точно визначити слова, які найбільше впливають на неправильну класифікацію, і спрямовувати зусилля на їх усунення.
Такі перевірки особливо важливі для компаній, що використовують чат-боти для взаємодії з клієнтами, оскільки навіть незначні помилки можуть призводити до серйозних правових наслідків. Дослідження показали, що близько 0,1% слів можуть викликати половину всіх помилкових класифікацій. Це відкриття дозволяє значно зменшити обсяг роботи з аналізу та покращення класифікаторів.
Покращення точності класифікаторів має значення не лише для новин або оглядів. У сфері медицини, фінансів та безпеки точність класифікації може бути вирішальною. Від запобігання витоку конфіденційної інформації до поліпшення наукових досліджень, новий підхід MIT має потенціал значно вплинути на різні важливі галузі.
Цей підхід вже показав значні результати, знижуючи успішність атак на класифікатори майже вдвічі, а завдяки відкритому доступу до програмного забезпечення, ця технологія може бути використана будь-якими зацікавленими сторонами для покращення своїх систем.
Без спаму. Лише топ-матеріали Gosta. Відписатись в один клік.