Иншуртех-единорог Lemonade, использующий для расчета тарифа искусственный интеллект, удалил серию твитов после того, как сообщения заставили пользователей социальных сетей задаться вопросом, оценивает ли программное обеспечение ИИ компании физические атрибуты и язык тела пользователей, чтобы автоматически отклонять претензии, представленные через пользовательские видео.
Lemonade просит пользователей присылать видео вместе со страховыми исками для оценки ущерба и автоматического расчета алгоритмами степени ущерба и размера страховой выплаты.
Lemonade поделился веткой в Твиттере, в которой говорилось, что его ИИ может «улавливать невербальные сигналы» при анализе видео, представленных клиентами, с объяснением деталей их страховых требований.
Пользователи соцсетей сразу же задались вопросом, будут ли ИИ отмечать клиентов с отклонениями здоровья и психики, по национальному признаку или людей из сексуальных меньшинств.
Вице-президент Lemonade Яэль Висснер-Леви сообщила Forbes, что компания удалила твиты, потому что сообщения были «неправильно поняты и распространялась неверная информация». — «Мы удалили эту ужасную ветку, которая вызвала больше путаницы, чем что-либо еще», — заявила компания в своем блоге, добавив, что использование фразы «невербальные сигналы» было плохим выбором слов.
Стартап заявил, что не использует технологии, основанные на опровергнутой псевдонауке, такие как френология и физиогномика (теории, предполагающие связь между внешним видом и интеллектом или характером), а также не оценивает страховые выплаты на основе «происхождения, пола, внешнего вида, кожи клиента, инвалидности или любых физических характеристик».
В Lemonade пояснили, что их ИИ использует технологию распознавания лиц, чтобы выделить претензии, поданные «одним и тем же человеком под разными именами», например, измененное лицо, для подачи нескольких претензий, добавив, что отмеченные претензии позже рассматриваются людьми, и претензии никогда не отклонялись автоматически алгоритмами ИИ.
Lemonade, запущенный в 2015 году, произвел революцию в страховом бизнесе, поскольку не требует бумажных документов и использует искусственный интеллект и чат-ботов для обработки страховых требований. Lemonade просит клиентов, отправляющих претензии, включить видео, в котором они объясняют свою ситуацию своими словами, отчасти потому, что компания считает, что это может снизить вероятность страхового мошенничества.
«Исследование поведенческой экономики показало, что мы, люди, менее склонны лгать, когда смотрим на себя, говоря в зеркало [или] селфи-камеру», — говорится в сообщении компании. Иншуртех работает в США, Германии, Нидерландах и Франции с планами расширения. В мае отчет компании о прибылях и убытках показал, что Lemonade понесла чистый убыток в размере 49 миллионов долларов, частично вызванный страховыми выплатами после рекордных штормов в Техасе в начале этого года. Lemonade рассчитывает заработать от 117 до 120 миллионов долларов до конца 2021 года. Ранее стартап объявил о планах выхода на рынок автострахования и страхования жизни.
Источник: