ИИ мог использоваться для подделки финансовых документов в споре с Министерством ветеранов США

Совет по гражданским апелляциям в сфере федеральных контрактов США установил, что строительная компания Venergy, возможно, использовала генеративный ИИ Grok для изменения финансовых документов, представленных в ходе спора с Министерством по делам ветеранов США. Речь идёт о документах за 2020, 2022 и 2023 годы, в которых, по версии ведомства, были скрыты сведения о доходах и контрактах компании. Совет отметил, что без выявления манипуляций правительству пришлось бы защищаться от требований, завышенных более чем на $1,1 млн.

Разбирательство началось после того, как Venergy оспорила расторжение контракта и потребовала около $4,23 млн компенсации за задержки при его исполнении. Позднее офицер Минветеранов отклонил это требование и потребовал от компании около $1,84 млн из-за невыполнения проекта в установленный срок. Подозрения в отношении представленных Venergy финансовых документов возникли после того, как эксперт ведомства обнаружил несоответствия с ранее полученной информацией.

Руководитель Venergy и внешний бухгалтер отрицали изменение отчётности. Однако гендиректор сообщил, что доступ к его учётной записи Adobe Acrobat имел бывший сотрудник, участвовавший в подготовке документов и активно использовавший Grok. При этом компания не связалась с бывшим сотрудником и не провела внутреннего расследования для установления обстоятельств возможной фальсификации. В результате Совет отклонил требование Venergy на $4,23 млн в качестве санкции, но продолжил рассмотрение спора о расторжении контракта и требования правительства на $1,84 млн.

Эксперты считают дело первым известным примером, когда орган по рассмотрению федеральных контрактных споров допустил возможность использования генеративного ИИ для манипуляции документами в ходе разбирательства. Юристы предупреждают, что по мере развития ИИ выявлять подобные фальсификации будет всё сложнее. Если будет установлено, кто именно и умышленно подделал финансовые документы, возможны не только гражданско-правовые, но и уголовные последствия; обстоятельства произошедшего также расследует генеральный инспектор ведомства.