Скандал в Індії: суддя використовував підроблені ШІ-рішення

Верховний суд Індії розпочав розслідування інциденту, в якому молодший суддя цитував фальшиві судові прецеденти та накази. Як з'ясувалося пізніше, ці документи були згенеровані нейромережею і ніколи не існували в реальній судовій практиці. Це викликало шок у юридичній спільноті країни. Судді вищої інстанції наголосили, що використання ШІ без належної перевірки є неприпустимим і загрожує основам правосуддя. Вони зазначили, що технології мають бути лише допоміжним інструментом, а не джерелом юридичних фактів. Інцидент став черговим нагадуванням про проблему 'галюцинацій' ШІ, коли алгоритми створюють переконливо виглядаючу, але абсолютно вигадану інформацію. Тепер індійська влада розглядає можливість введення спеціальних протоколів для запобігання використанню ШІ в судових засіданнях.