Lloyd's of London начала страховать убытки компаний из-за ошибок чат-ботов

Полисы разработал стартап Armilla при поддержке Y Combinator.

Страховка сработает, если ИИ-ассистент начнёт работать хуже заявленных показателей — например, точность ответов снизится с 95% до 85%. Полис покроет иски и компенсации, но не будет действовать для заведомо ненадёжных систем — страховщики проведут оценку рисков перед заключением договора, пишет Financial Times.

Новый продукт запускают на фоне участившихся инцидентов с ИИ-помощниками: например, чат-бот Virgin Money оскорбил клиента за использование слова «virgin», ИИ-ассистент DPD назвал свою компанию «худшей службой доставки», а Air Canada пришлось выплатить компенсацию после того, как её чат-бот предоставил клиенту неверную информацию о стоимости билета.
Эксперты отмечают, что стандартные страховки либо исключают ИИ-инциденты, либо ограничивают выплаты. В Armilla считают, что этот продукт поможет компаниям «без страха использовать ИИ-инструменты».
Lloyd's — не является страховщиком в традиционном смысле; это площадка, на которой андеррайтеры и страховые брокеры заключают договоры страхования.