«Иногда клиенты ссылаются на законы, которые просто не существуют, — сказал представитель компании. — В других случаях сам закон существует, но его толкование совершенно неверно. Мы видим все больше жалоб, которые на первый взгляд кажутся правдоподобными, но не выдерживают критики при внимательном рассмотрении».
В другой крупной компании, занимающейся страхованием имущества, специалисты по обработке страховых случаев столкнулись с другим характерным признаком искусственного интеллекта. В одном из отправленных документов по-прежнему присутствовали звездочки, которые ChatGPT обычно использует для выделения важных моментов.
«Люди могут ввести несколько деталей в ChatGPT и попросить его составить за них жалобу. Мы определенно сталкиваемся с подобными случаями», — сказал представитель страховой компании.
Эти эпизоды иллюстрируют растущую проблему для страхового сектора страны, поскольку все больше потребителей обращаются к инструментам генеративного искусственного интеллекта для составления жалоб и апелляций. Хотя чат-боты могут помочь объяснить сложные страховые термины и юридические концепции, они по-прежнему подвержены так называемым галлюцинациям, генерируя фиктивные законы, сфабрикованные прецеденты и неточные интерпретации с убедительной степенью уверенности.
Представители отрасли утверждают, что многие потребители предоставляют подобные материалы, не проверяя их самостоятельно. Однако страховщики не могут просто отклонить эти жалобы, потому что они, по всей видимости, были сгенерированы искусственным интеллектом. После подачи иска группы по урегулированию претензий обязаны рассмотреть каждое обвинение и предоставить официальный ответ.
«Независимо от того, как это написано, нам все равно приходится рассматривать каждое поступившее заявление, — сказал представитель местной страховой компании. — Если спор касается полиса, проданного в 2020 году, нам приходится искать оригинальные документы и проверять каждую строку. На это уходит много времени и ресурсов».
Страховые компании заявляют, что растущее использование ИИ увеличивает административную нагрузку. Распространение мобильных сервисов уже снизило барьеры для подачи заявлений и жалоб, а инструменты генеративного ИИ могут мгновенно создавать объемные документы, содержащие юридические аргументы, ссылки на нормативные акты и предполагаемые прецеденты.
В первом квартале 39 страховых компаний Кореи получили в общей сложности 15 996 жалоб, что на 19,3 процента больше, чем годом ранее. Это самый большой квартальный рост с начала ведения статистики в 2016 году. На споры по поводу выплат пришлось 65,4 процента от общего числа. При этом страховщики имущества получили 11 108 жалоб, а страховщики жизни — 4 888.
Хотя компании не могут с уверенностью определить, сколько заявок было сгенерировано с помощью ИИ, инсайдеры отмечают, что эта технология способствует созданию более длинных и сложных заявок.
«Эти документы становятся намного длиннее, потому что клиенты больше не составляют их с нуля», — сказал представитель страховой компании, специализирующейся на страховании имущества. В одном случае страхователь подал десятки жалоб в течение нескольких месяцев, касающихся, по сути, одного и того же спора, причем каждая версия была лишь немного переформулирована с помощью ИИ.
Некоторые наблюдатели утверждают, что усиление регуляторного контроля может создавать непредвиденные стимулы. Поскольку финансовые органы все больше внимания уделяют защите потребителей, а страховщики становятся более внимательными к статистике жалоб, некоторые страхователи, по-видимому, считают, что постоянные жалобы повышают их шансы на получение выплаты.
Регуляторы также следят за признаками того, что генеративный искусственный интеллект может способствовать мошенничеству в сфере страхования. Ранее в этом месяце Комиссия по финансовым услугам объявила о разработке контрмер после выявления новых схем, связанных с использованием медицинских записей, созданных с помощью искусственного интеллекта, включая диагностические отчеты и детализированные выписки о лечении, для поддержки мошеннических заявлений на получение пособий.
Проблема усугубляется юридическими ограничениями на доступ к медицинской информации. Согласно корейскому Закону о медицинском обслуживании, медицинские записи, как правило, не могут быть предоставлены третьим лицам без согласия пациента, что ограничивает возможности страховых компаний по независимой проверке предоставленных документов.
Рост числа мошеннических схем с использованием искусственного интеллекта происходит на фоне того, что отрасль уже сталкивается с растущим уровнем страхового мошенничества. По данным Службы финансового надзора, объем выявленного частного страхового мошенничества в прошлом году достиг рекордной отметки в 1,16 триллиона вон (767,3 миллиона долларов США). Этот показатель неуклонно растет с 2022 года, когда он впервые превысил 1 триллион вон.
Особую тревогу вызывает использование ИИ для подделки медицинских документов. В одном из недавних случаев женщина с двумя детьми была поймана на подделке документов, чтобы создать видимость, будто ее дети посещали больницу, и получала страховые выплаты. Представленные ею диагностические справки и детализированные медицинские счета были настолько качественно подделаны, что отличить их от настоящих было практически невозможно. В другом случае мужчина был пойман на подделке обязательных медицинских записей, включая диагностические справки, детализированные счета и квитанции. Этот случай мог бы остаться незамеченным, если бы страховая компания не заметила различий в документах, выданных другим пациентам той же больницы, — например, в официальной печати и подписях врачей.
Страховые компании разрабатывают контрмеры. KB Insurance создала систему для анализа уровня риска каждого страхового требования и автоматической классификации тех, которые имеют аномальные признаки. KakaoPay Insurance использует ИИ для анализа документов по страховым требованиям и повторяющихся моделей требований. DB Insurance управляет системой расследования и анализа страхового мошенничества на основе больших данных для выявления организованного страхового мошенничества.
Однако в отрасли опасаются, что с развитием технологий ИИ обнаружение подделок будет становиться все сложнее. «Конкуренция между технологиями подделки и обнаружения неизбежно продолжится, — отметил источник в страховой отрасли. — В конечном счете, необходимо расширение компьютерных систем, подобных Silsun24, чтобы выстроить структуру, при которой данные больниц передавались бы страховщикам напрямую, без необходимости предоставления документов потребителями».
Фото из открытых источников
