در یکی از دادگاههای تورنتو، وکیلی به پروندههایی استناد کرد که اساساً وجود خارجی نداشتند. در بریتیش کلمبیا نیز وکیل دیگری برای تقویت استدلال حقوقی خود از منابعی ساختگی استفاده کرد. در هر دو مورد، قضات هشدارهای جدی صادر کردند: در استفاده از هوش مصنوعی دقت کنید.
هوش مصنوعی با سرعت در حال ورود به دفاتر حقوقی و دادگاههای کاناداست و نحوه انجام کارهای حقوقی را دگرگون میکند. وکلا از این فناوری برای تسریع تحقیقات، خلاصهسازی رویههای قضایی، تنظیم لوایح و بررسی قراردادها استفاده میکنند؛ امری که میتواند ساعتها یا حتی روزها در زمان کاری صرفهجویی کند. این فناوری هزینهها را کاهش میدهد، روند کار را سرعت میبخشد و میتواند دسترسی به خدمات حقوقی را بهبود دهد.
اما همین ابزارها در عین حال، انواع جدیدی از خطر را وارد سیستمی میکنند که از زمان قلم و دوات بر پایه دقت و پاسخگویی بنا شده است. استناد به پروندههای جعلی یا اشتباه که در نتیجه «توهمات هوش مصنوعی» تولید میشوند، میتواند اعتماد به نظام عدالت را تضعیف کند. از دیگر خطرات میتوان به نقض محرمانگی و توانایی این فناوری در تولید سریع استدلالهایی اشاره کرد که بررسی صحت آنها برای وکلا زمانبر است.
کتی سیلاگی، عضو وابسته مرکز حقوق، فناوری و جامعه در دانشگاه اتاوا، گفت: «ما باید با دقت عمل کنیم تا اطمینان حاصل شود که اصول بنیادین نظام عدالت، در مواجهه با این ابزارهای جدید حفظ میشوند.»
اشتباهات پرهزینه
بخش عمده نگرانیها به این موضوع برمیگردد که سیستمهای هوش مصنوعی چگونه اطلاعاتی تولید میکنند که ظاهری معتبر دارند؛ حتی زمانی که کاملاً نادرست هستند.
سیلاگی گفت: «مدلهای زبانی بزرگ تلاش میکنند زبان انسان را تقلید کنند و این کار را تا حد ممکن قانعکننده انجام میدهند؛ بدون آنکه لزوماً به درستی واقعی مطالب توجه دقیقی داشته باشند.»
پلتفرمهایی مانند لِکسیسنِکسیس و وستلا اکنون از قابلیتهای هوش مصنوعی برای سادهسازی تحقیقات حقوقی، تنظیم اسناد، خلاصهسازی رویههای قضایی و تولید سریعتر و کارآمدتر استدلالهای اولیه استفاده میکنند.
اما مدلهای زبانی بزرگ—که ابزارهایی مانند چتجیپیتی بر پایه آنها ساخته شدهاند—میتوانند اطلاعاتی تولید کنند که در عین قانعکننده بودن، گمراهکننده یا حتی کاملاً نادرست است. این پدیده که به «توهم هوش مصنوعی» معروف است، پیشتر به بروز چندین خطای پرهزینه در دادگاهها منجر شده است.
سیلاگی ابزارهای هوش مصنوعی را به «یک دستیار پژوهشی بسیار مشتاق و باهوش» تشبیه میکند؛ «اما وقتی کار به مرحله حساس میرسد، ممکن است برای تحت تأثیر قرار دادن شما چیزهایی از خود بسازد.»
توهمات هوش مصنوعی در دو پرونده مدنی در سال ۲۰۲۴—پروندههای «کو در برابر لی» و «ژانگ در برابر چن»—نقش داشتند؛ جایی که اسناد ارائهشده به دادگاه شامل ارجاعات ساختگی بودند.
در پرونده «کو در برابر لی»، بخشهایی از لوایح یکی از طرفین به رویههای قضایی استناد میکرد که احتمالاً توسط هوش مصنوعی تولید شده و در واقع وجود خارجی نداشتند.
در پرونده «ژانگ در برابر چن» نیز ارجاعات جعلی در میان استدلالهای حقوقی معتبر شناسایی شد؛ موضوعی که بهعنوان یکی از نمونههای اولیه خطرات هوش مصنوعی در دادرسی در کانادا تلقی میشود.
با این حال، رسیدگی به هر دو پرونده بدون ابطال ادامه یافت؛ اما قضات در هر دو مورد هشدارهایی صادر کرده و نظارتها را افزایش دادند. حتی خطاهای کوچک یا ارجاعات اندکی گمراهکننده نیز میتوانند تأثیر بزرگی بر روندهای حقوقی داشته باشند.
یک تاریخ اشتباه، بندی که در جای نادرست قرار گرفته یا یک ارجاع نادرست میتواند بهطور اساسی یک استدلال حقوقی، قرارداد یا سند دادگاهی را بیاعتبار یا تضعیف کند.
نوآ وایسبرگ، همبنیانگذار شرکت هوش مصنوعی حقوقی کرا سیستمز، گفت که افزایش بهرهوری ناشی از این فناوری قابلتوجه است و زمان انجام کارهای روزمره مانند بررسی قراردادها را کاهش میدهد؛ اما تأکید کرد که برای راستیآزمایی، زمان لازم است.
او گفت: «به نظر من بهترین رویکرد در حال حاضر این است که بپذیریم این فناوری در بسیاری از موقعیتها کامل نیست؛ بنابراین اگر به دنبال دقت کامل هستید، باید آنچه را که تولید میکند، دوباره بررسی کنید.»
سوگیری خودکار
سیلاگی گفت برخی از مهمترین خطرات استفاده از هوش مصنوعی در حرفه حقوقی، جنبهای روانشناختی دارند. او به پدیده «سوگیری خودکار» اشاره کرد؛ تمایلی شناختهشده که باعث میشود افراد بیش از حد به خروجیهای این فناوری اعتماد کنند.
او گفت: «وقتی با سامانههای خودکار رایانهای تعامل داریم، بیشتر تمایل داریم نتایج را همانطور که هستند بپذیریم»؛ و افزود کاربران اغلب اجازه میدهند فناوری مسیر تصمیمگیری را تعیین کند.
به گفته او، این موضوع میتواند به سهلانگاری منجر شود و کاربران ممکن است ارزیابی انتقادی نتایج را کنار بگذارند؛ بهویژه اگر این فناوری معمولاً خروجیهای دقیقی ارائه دهد.
این سطح از اعتماد و وابستگی میتواند در بلندمدت به تضعیف مهارتهای حقوقی و کاهش دقت در قضاوت حرفهای منجر شود؛ بهگونهای که وکلا و دستیاران حقوقی ممکن است بهدرستی خروجیها را بررسی نکنند.
او افزود این روند میتواند بهطور ویژه بر وکلای جوان تأثیر بگذارد؛ زیرا وظایف روزمرهای که پیشتر توسط نیروهای تازهکار انجام میشد، اکنون به این فناوری سپرده میشود. این امر ممکن است به تضعیف مهارتها و دانش پایهای منجر شود که معمولاً بهمرور زمان شکل میگیرد.
مسئولیت
دادگاهها بر تعهد وکلا برای راستیآزمایی همه ارجاعات تأکید کردهاند و قضات تصریح کردهاند که استفاده از هوش مصنوعی، مسئولیت حقوقی را کاهش نمیدهد.
وایسبرگ گفت: «اگر شما وکیل هستید و متوجه خطایی شوید و کار بههم بریزد، مسئولیت آن با خود شماست.»
سیلاگی نیز گفت با وجود سرعتبخش بودن این فناوری، مسئولیت همچنان کاملاً بر عهده فرد استفادهکننده است.
او افزود: «اگر از یک ابزار فناوری استفاده میکنید که قرار است کار شما را بهتر و آسانتر کند، باید واقعاً نحوه کار آن را درک کنید و مسئولیت آن را بپذیرید.»
با توسعه سریع این فناوری، انواع خطرات نیز میتوانند تغییر کنند.
خطرات ساختاری برای نظام عدالت میتواند شامل جعل شواهد، تولید ویدئوهای جعلی موسوم به «دیپفیک» و همچنین بروز سوگیری در سامانههای هوش مصنوعی باشد.
او افزود: «اکنون بحثهایی درباره خطرات جعل شواهد با استفاده از این فناوری در حال شکلگیری است.»
پیشرفتهای هوش مصنوعی ایجاد متن، تصویر، ویدئو و صداهای بسیار قانعکننده را آسانتر کرده و نگرانیهای تازهای درباره قابلیت اعتماد به شواهد بهوجود آورده است. در حوزههایی مانند حقوق خانواده، که پروندهها اغلب به پیامهای متنی و ارتباطات دیجیتال متکی هستند، تأیید اصالت بسیار حیاتی است. قضات و وکلا بهطور فزایندهای موظف شدهاند چنین شواهدی را با دقت بیشتری بررسی کنند.
او افزود سوگیری در سامانههای هوش مصنوعی نیز یکی دیگر از نگرانیهاست؛ زیرا این مدلها بر پایه دادههایی آموزش میبینند که ممکن است دارای خطا یا سوگیری باشند. این موضوع از سوی بسیاری از پژوهشگران حقوقی، از جمله مؤسسه بروکینگز، مطرح شده است.
یکی دیگر از چالشها، احتمال شکلگیری نظام عدالت دوسطحی است؛ جایی که افراد ثروتمندتر به خدمات حقوقی انسانی دسترسی دارند و افراد کمدرآمد بیشتر به ابزارهای هوش مصنوعی متکی میشوند.
واکنش دادگاهها
دادگاههای کانادا در حال ارائه دستورالعملهایی درباره استفاده از هوش مصنوعی هستند؛ از جمله مقرراتی درباره راستیآزمایی و افشا.
برخی راهنماها میگویند وکلا لازم نیست هر مورد استفاده را افشا کنند؛ اما باید اطمینان حاصل کنند که «همیشه یک انسان در چرخه حضور دارد.»
در اطلاعیهای از دادگاه فدرال کانادا در ۲۰ دسامبر ۲۰۲۳ اعلام شد که در صورت استفاده از هوش مصنوعی در اسناد دادگاهی، باید این موضوع افشا شود و مسئولیت صحت اطلاعات بر عهده وکلاست. با این حال، از حدود ۲۸ هزار پرونده در سال ۲۰۲۴، تنها چند مورد این موضوع را اعلام کردهاند.
در سطح استانی نیز دادگاههایی در مانیتوبا، یوکان، آلبرتا و نوا اسکوشیا دستورالعملهایی صادر کردهاند که بر لزوم دقت در بررسی اسناد تأکید دارد.
دادگاه عالی عدالت انتاریو نیز مقررات جدیدی منتشر کرده که بر «شفافیت، دقت و پاسخگویی» در استفاده از این فناوری تأکید دارد.
اعتماد
با گسترش این فناوری، چالش اصلی برای نظام حقوقی حفظ اعتماد در سیستمی است که بر قضاوت انسانی بنا شده است.
سیلاگی گفت: «حقوق بر پایه روایتهایی ساخته میشود که درباره اینکه چه کسی هستیم و چه نوع جامعهای میخواهیم داشته باشیم شکل میگیرد. باید مراقب باشیم تا اصول بنیادین نظام عدالت در مواجهه با این ابزارهای جدید حفظ شود.»
