В современной реальности информация, доступная для анализа компьютерными системами, возросла в разы. Записи с видеокамер, GPS-трекеры, хистори браузера, записи транзакций и прочее серьезно влияют на принятие решений. Чем их больше, тем в большей степени приходиться полагаться на автоматическую обработку этих данных. Вследствие этого, неизбежным явлением стали системы «компьютерного правосудия», которые выявляют нарушения без участия человека. Яркий пример — это автоматически выписываемые штрафы за превышение скорости на дороге.
Американские учёные, в числе которых были юристы, лингвисты и программисты, организовали любопытный эксперимент. 52 студентам-программистам предписывалось создать программу, которая анализировала движение машины, согласно данным с GPS-трекеру внутри и выписывала бы штрафы. Задача оказалась сложной. Часть правонарушений даже в самой законопослушной стране остается незамеченной или незначительной. Но компьютеры не забывают и не упускают ничего. Бездумное использование жестких правил и алгоритмов приводит к казусам и излишней строгости.
Информация для анализа представляла собой GPS-треки реального движения машины, графики скорости, а также данные о скоростном режиме разных участков трассы. Студенты, участвующие в эксперименте, были разбиты на три группы. Первая создавала программу,строго следуя правилам дорожного движения, вторая следовала духу закона, анализируя, когда превышение скорость действительно заслуживает штрафа. Третьей была представлена экспертная спецификация, в которой были рассчитаны допустимые пределы и погрешности датчиков.
Во время анализа трафика автомобиля и графиков его скорости программа, следовавшая строго букве закону, выявила более 400 нарушений, тогда как они были связаны с объективными фактами вроде изменения рельефа местности. Вторая группа студентов согласно духу закону выявила 1, 5 нарушения. А группа номер три не выявила нарушений вовсе.
Во время написания программы стали явными факторы, которые оказывают серьезное воздействие на принятие решений, но которые не учитываются законом. Множество случаев, когда необходим человеческий здравый смысл, который отсутствует у программы. Поэтому программист должен учитывать все возможные нюансы.
Организаторы эксперимента полагают, что частое использование алгоритма правосудия не за горами. На границе юриспруденции и программирования может возникнуть весьма интересная сфера деятельности. Суперкомпьютер Watson уже диагностирует больных с высокой точностью, может и юриспруденцию тоже ждет техническая революция.
