В рамках четвертого дня підготовки суддів Вищого антикорупційного суду, організованої Національною школою суддів України у співпраці з Німецьким фондом міжнародного правового співробітництва, суддя Верховного Суду у Касаційному адміністративному суді Ян Берназюк виступив з доповіддю на тему «Штучний інтелект у правосудді: ризики алгоритмічної упередженості та дискримінації».
Доповідач звернув увагу на ст. 16 Кодексу суддівської етики, у якій наведено випадки стосовно того, коли використання суддею технологій штучного інтелекту є допустимим.
Суддя розповів про алгоритмічну упередженість як системну похибку в рішеннях штучного інтелекту або автоматизованих алгоритмів, що призводить до несправедливого чи дискримінаційного ставлення до певних груп осіб.
Під час виступу Ян Берназюк ознайомив слухачів із законом Амари. Суддя пояснив, що це принцип, сформульований науковцем Роєм Амарою, який відображає тенденцію суспільства спочатку сприймати нові технології з ажіотажем, а потім, після розчарування, не помічати їхнього глибокого впливу на різні сфери.
Розглянув суддя і поняття «чорна скринька», яке в ШІ означає ситуацію, коли алгоритми ухвалюють рішення, але їхній внутрішній процес залишається незрозумілим для користувачів і розробників. Йшлося також про «дилему кентавра» у правосудді. Як зазначив спікер, ця дилема – виклик у визначенні меж відповідальності між суддею та ШІ. Якщо суддя безумовно довіряє ШІ, то він ризикує втратити контроль, критичне мислення і допустити несправедливість (упереджене рішення). Якщо ж ігнорує ШІ, то це уповільнює правосуддя та знижує його ефективність.
Також Ян Берназюк окреслив концепцію парадокса Моравека у сфері ШІ, яка описує зворотну складність завдань для людини та ШІ. Наприклад, високорівневі інтелектуальні завдання, які здаються складними для людей, ШІ виконує легко. Натомість базові сенсорно-моторні навички – надзвичайно складні для ШІ.
Доповідач звернув увагу на застосунки, які створені на базі ШІ й можуть бути використані в процесі реалізації особою права на доступ до суду та в діяльності судової влади. Дав суддя і практичні поради, які допоможуть сформулювати правильний запит ШІ.
Крім цього, Ян Берназюк нагадав присутнім про найважливіші події 2024 року у сфері ШІ. Серед іншого, йшлося про висловлену позицію Верховного Суду щодо використання ШІ учасниками судового процесу (ухвала Касаційного господарського суду у складі ВС від 8 лютого 2024 року у справі № 925/200/22); позицію з’їзду суддів України стосовно використання ШІ суддями (Кодекс суддівської етики від 18 вересня 2024 року); затвердження Всеукраїнською громадською організацією «Асоціація правників України» та внесення 26 грудня 2024 року Національним агентством кваліфікації Професійного стандарту «Суддя» до Реєстру кваліфікацій.
Із презентацією Яна Берназюка можна ознайомитися за посиланням: https://court.gov.ua/storage/portal/supreme/prezentacii_2025/125_AI_Algorithmic_Bias_Discrimination_Risks_bernaziuk.pdf.
