أنت والقانون: "هلوسات قانونية" من يتحمّل المسؤولية عندما يضلّل الذكاء الاصطناعي المحكمة؟

A person works on a laptop

AI tools could boost productivity in Australia to the tune of billions of dollars a year. Source: Getty / dpa

في ظلّ تنامي حضور الذكاء الاصطناعي في مختلف القطاعات المهنية، بدأ حضور هذا التطور يفرض نفسه بقوة داخل مكاتب المحاماة، ما يطرح أسئلة دقيقة حول المسؤوليات القانونية، وضوابط الاستخدام، وحدود الإشراف داخل الفرق القانونية بعد أن أُحيل ثلاثة محامين إلى الهيئات القانونية في ولاياتهم بعد استخدام الذكاء الاصطناعي لإعداد مستند قضائي تبيّن أنه يحتوي على "استشهادات خاطئة". ما هو الإطار القانوني الحالي لاستخدام الذكاء الاصطناعي في مكاتب المحاماة؟ وهل هناك معايير أو ضوابط واضحة؟ هل آن الأوان لفرض قيود صارمة على استخدام الذكاء الاصطناعي في القضاء؟


هذه المعلومات ذات طبيعة عامة ولا يمكن اعتبارها نصيحة قانونية. نظراً لأن الظروف الفردية قد تختلف من شخص لآخر، يجب عليكم استشارة خبير مستقل إذا لزم الأمر.

كشف حكم صدر في سيدني الأسبوع الماضي أن محامية من جنوب أستراليا ومحاميين من فيكتوريا، أحدهما يحمل لقب King's Counsel قد قدّموا وثيقة تضم معلومات جرى الحصول عليها عبر الذكاء الاصطناعي.

وذكر الحكم أن الوثيقة، المقدّمة ضمن طعن قضائي، تبدو "مصاغة بمساعدة الذكاء الاصطناعي"، وقد احتوت على "مراجع غير دقيقة ومضلّلة لأحكام قضائية"، ووصفها بأنها "هلوسات" ناتجة عن الذكاء الاصطناعي.

تشرح خبيرة قانون الهجرة والأحوال الشخصية المحامية أحلام حجازي نّ الاعتماد غير المدقق على الذكاء الاصطناعي يشكل خطراً فعلياً على العمل القانوني، ويضع المحامين أمام مسؤوليات لا يمكن التهاون فيها.

توضح حجازي أنّ المحامي يبقى مسؤولاً كامل المسؤولية عن أي مستند يُقدَّم للمحكمة، سواء أعدّه بنفسه أو تولّى متدرّب إدخاله عبر أدوات الذكاء الاصطناعي، مؤكد أن "المسؤولية أمام المحكمة هي مسؤولية المحامي، مهما كان مصدر الخط"  وتشير إلى أن المحاكم بدأت فعلياً بمساءلة محامين قدّموا مراجع قانونية تبين لاحقاً أنها غير موجودة أصلاً، ما يكشف حجم الإهمال في الاعتماد على تقارير "الذكاء الاصطناعي" دون مراجعة دقيقة.

وترى حجازي أن عدم تدقيق المواد المنتجة عبر الذكاء الاصطناعي يُعدّ إخلالاً صريحاً بواجب الكفاءة المهنية، بل وربما بميثاق شرف المهنة، إذ تقول "يعتبر ذلك عيباً مهنياً، لأن واجبي الأول هو ضمان أن ما أقدّمه للمحكمة حقيقي وصحيح"،  وتلفت إلى أن القانون لا يمنع استخدام الذكاء الاصطناعي بحد ذاته، لكنه يفرض التزاماً لا تنازل عنه مؤكدة وجوب "التحقق، ثم التحقق، ثم التحقق" من المعلومات.

وتشدد حجازي على أن مسؤولية الإشراف داخل مكاتب المحاماة لا تقلّ أهمية عن المسؤولية الفردية، فكل ما يخرج من المكتب يُنسب إلى المحامي الرئيسي، سواء أنجزه بنفسه أو عبر فريقه، قائلة:

إن مسؤولية العمل الذي يخرج من المكتب تقع على عاتق المحامي، وليس المتدرّب
ترى أحلام أن بعض الأخطاء التي ظهرت حديثاً أمام المحاكم كشفت ضعفاً في الرقابة الداخلية لدى بعض المكاتب.

ورغم غياب إطار قانوني خاص ومباشر يحدد كيفية استخدام الذكاء الاصطناعي في العمل القانوني، إلا أن المعايير المهنية القائمة كافية لتشكيل خطوط واضحة، خصوصاً تلك المتعلقة بالسرية، والدقة، ومنع تسريب المعلومات.

تلفت حجازي النظر إلى مخاطر استخدام المنصات المفتوحة، مشيرة "بمجرّد وضع  معلومات القضية على منصات الذكاء الاصطناعي، قد تُخزَّن أو يُعاد استخدامها… وهنا تبدأ مشكلة خرق الخصوصية".

وتؤكد حجازي أن الذكاء الاصطناعي يمكن أن يكون أداة مساعدة جيدة، ولكن ليس بديلاً عن الخبرة القانونية أو الفهم العميق لروح القوانين، موضحة أن دوره يجب أن يبقى استشارياً أو مساعداً في الترتيب والصياغة، لا مصدراً نهائياً للمراجع أو الاجتهادات. وتختم بالقول إن مهنة المحاماة تواجه مرحلة جديدة تتطلب يقظة أكبر وقواعد أكثر صرامة، لأن الأخطاء الناتجة عن الذكاء الاصطناعي بدأت تتحول من ظاهرة تقنية إلى مسؤولية قانونية.

كيف يمكن للمحامين حماية أنفسهم من "هلوسات" الذكاء الاصطناعي وضمان صحة المراجع القانونية قبل تقديمها للمحكمة؟

الإجابة في الملف الصوتيّ أعلاه.

هذه المعلومات ذات طبيعة عامة ولا يمكن اعتبارها نصيحة قانونية. نظراً لأن الظروف الفردية قد تختلف من شخص لآخر، يجب عليكم استشارة خبير مستقل إذا لزم الأمر.

لقراءة محتوى التقرير الصّوتي، اضغط على خاصيّة Transcription في الصورة أعلاه.

هل أعجبكم المقال؟ استمعوا لبرنامج "Good Morning Australia" من الاثنين إلى الجمعة من الساعة السادسة إلى التاسعة صباحا بتوقيت الساحل الشرقي لأستراليا عبر الراديو الرقمي وتطبيق SBS Audio المتاح مجاناً على أبل و أندرويد وعلى SBS On Demand.

أكملوا الحوار على حساباتنا على فيسبوك وانستغرام.

 

spk_0

والقانون.

spk_1

أهلا بكم فيكاست أنت والقانون من عربي. أنا فترة طوق الهندي

spk_2

وأنا فارس حسن. شكرا لكم لحسن المتابعة، ونذكر في مطلع هذا البودكاست أن المعلومات الواردة فيه على سبيل المعلومة العامة. الظرف الشخصية تختلف من شخص لآخر، لذا يرجى عليكم أو يجب عليكم استشارة خبير مستقل أو محامي مستقل إذا لزم الأمر.

spk_1

فارس اليوم الذكاء الاصطناعي لبيت جزء لا يتجزأ من كل

spk_1

الميادين. واليوم أحيل محامين للهيئات القانونية بولايات بعد استخدام الذكاء الاصطناعي لأعداد مستند قضائي تبين أنه يحتوي على استشهادات خاطئة.

spk_2

صحيح. وكشف أيضا حكم صدر في سيدني الأسبوع الماضي أن محاميا من جنوب أستراليا وحتى محاميين من فيكتوريا، أحد ما يحمل لقب كينغز كونسل، قدموا وثيقة تضم معلومات جرى الحصول عليها عبر الذكاء الاصطناعي.

spk_1

الحكم. ذكر فارس أن الوثيقة المقدمة ضمن طعن قضائي تبدو مصاغة بمساعدة الذكاء الاصناعة احتوت على مراجع غير دقيقة ومضللة لأحكام قضائية، ووصف بأن هلوسة ناتجة عن الذكاء الاصطناع.

spk_2

بتفلسف الذكاء الاصطناعي حتى بالقانون بفتي اللي يستعمل يعني كل برامج الذكاء الاصطناعي فيه حتى إحنا كصحفيين شيء من التحيز في بعض الأحيان رواية منحازة يعني طلبت منه معلومة معينة الإطار القانونية ترى لاستخدام في مكاتب المحاماة.

spk_1

هذا السؤال اليوم المفتاح، واليوم هل هناك معايير أو ضوابط واضحة في هذا الفضاء العام، وكل هذه الثورة التكنولوجية يسعدنا أن تنضم لنا خبيرة قانون الهجرة والأحوال الشخصية المحامية أحلام حجازي بآخر لقاء لهذه السنة.

spk_1

بداية ما نشكرك على كل ما قدمتيه أحلام وصباحك

spk_0

خير. شكرا لكم وبدي أنه يفتخر طبيب إن شاء الله نقدم معلومات للمجتمعهم وإحنا

spk_2

كمان سعداء كثير في المشاركات القيمة بداية أحلام شو المسؤولية القانونية على المحامي يعني إذا قدم للمحكمة مستند في أخطاء، وهالأخطاء نتجت عن استخدامه للذكاء الاصطناعي كل

spk_0

المسؤولية عن المحامي.

spk_0

يعني كتير أنا بتفاجأ ونحنا عم بنشوفك شغل كتير بمجال شغلنا وبتفاجأ كتير إنه المحامي عم يعتمد على هال- ال AI لهالدرجة هي ال AI عم بتساعد كتير عالم موضوع أنا يعني شخصيا ضد هالفكرة بس إنه في عالم كتير عم تستخدمها وعم بت- بتساعدها تبلش مثل ما بنقول بتعطيك طرف الخط بس المسؤولية على الشخص و especially إذا المحامي

spk_0

يعني نحن ما عم بنقدم آه بنحط معلومات بقلب ال AI اللي هي بنحكي فيها شو ضرر ضرر هالشغلة بس أكتر من هيك المسؤولية على المحامي تيتأكد إنه كل المعلومات اللي موجودة بالأI هي حقيقة وموجودة كان في قضية اللي بلشت تغيير القوانين بالنسبة للأي والمحامية بالسنة الماضية محامية قدمت submission مثل ما بنقولوا للمحكمة العائلية

spk_0

Or Bhal submissions cannot marejaii or precedent case law.

spk_0

ك- لما القاضي كان عم يتطلع ال submission بتاع المحامي وطلعت جربت تلاقي هال- هال these cases ما كانوا موجودين مش موجودين من أساسهم يعني كتير بيتفاجأ إنه في درجة إهمال لهالدرجة من المحامية

spk_0

ده ما يأكد يأكدوا وي- ويطلعوا باله- ال- القوانين والمراجع القانونية بتعطيهم بيتأكدوا أول شيء إنه مش عم بيكذبوا للمحكمة ك- آه شغلتنا الأساسية إنه نكون ص- صريحين للمحكمة that basic obligation وأكتر من هيك إنه مش عم بنسب نسبب ضرر لل client بتاعنا.

spk_0

بس في كتير محامين للأسف عم يستعملوا هالشيء ومش عم يؤكدوا على المواضيع التي تقدم لهم.

spk_1

يعني أحلام اليوم يمكن السؤال يخطر عبالي اليوم اعتماد على الذكاء الاصطناعي بلا تدقيق. هل فينا نعتبره إخلال بواجب الكفاءة المهنية أو حتى ميثاق شرف المحاماة

spk_0

أكيدة مئة بالمئة.

spk_0

أنا مسؤوليتي كمحامية أول شيء بقدمها مثل ما قلت للمحكمة ويا officers الدك بكتير عالم بيقولوا المحامية كذابين هي like really from a perspective ممنوع إحنا نقدم كذبة ع- بالمرة للمحكمة أول شغلة إلي إنه مسؤوليتي تجاه المحكمة والقانون

spk_0

تاني شغلة وهي كمان أساسية وكتير مهمة لل client أنا مسؤوليتي إنه أتأكد إنه بس شخص يجي على مكتبة عم يعطيني مشكلة أقول شوية معقدة مش بس بدي يطبق القانون because ممكن العالم العادية اللي مش محامية يلاقوا القانون أونلاين وفي كتير شغلات أونلاين موجودة وحقيقية بتكون for example طلعوا بقوانين ال- family law موجودة على القانون آه بال- بالإنترنت

spk_0

بس شغلتي كمحامية إنه تطبق روح القضية على القانون so the specific cases أو في شغلة بال- بال- بهاي القضية لازم أنا كمحامية أقدر أطلع فيها وتطبق القانون properly وأقدمها للمحكمة بطريقة قانونية و آه ح- صريحة

spk_0

إذا أنا عم أعتمد على مية بالمية I breaking the

spk_2

توضيح كثير مهم أحلام طيب في الحالة اللي عم تحكي عنها بترا واحدة من الحالات المحامية المسؤولة مش هي يمكن استخدمت أو ذكاء الاصطناعي مباشرة المتدرب القانوني البالي شو كمان حدود مسؤولية إشراف المحامي على المتدربين عنده بالمكتب.

spk_0

هي مسؤولية كبيرة ود فايدة بتكون تكون و principalس لازم تقدم you have to do cost مع ال society ومش إنه كل محامي بيقدر يوصل له هذه ال- آه the principle in that case كانت هي لازم تعرف إنه بس تحطوا حالكم بها المركز مسؤوليتكم تتأكدوا إنه تقريبا تقريبا

spk_0

يعني كلنا وعندنا limit بس تقريبا كل شيء العام يطلع من المكتب المسؤولية بيرجع على principe ووصليسرعة خاص ناس

spk_0

When there is a paralegal, you know, it was, and, uh, senior solicitor or a, or a barrister.

spk_0

حاد واعي وقادر بالقانون.

spk_0

إذا ال الباليك عم ت- تعتمد على ال AI مية بالمية principalسة المفروض تكون عم تقرأ كل شيء الباليك عم تبعته من المكتب عشان المسؤولية بترجع على الباليكو

spk_0

أنا بهاي القضية ما بعرف خصوصياتها exactly بس I suspect إنه آه مش إنه تنقول البالي بتبتل تقدر تشتغل بس المحكمة بتعطيها مثل لفت نظر or reprimand on her record ليتأكدوا إنه هي المحامية لا principalيس ما بتعد نفس المشكلة وأكتر من هيك يمكن بيجبروها تبلش تقدم

spk_0

للمكتب الموجودين يشتغلوا معه، تعمل لهم كيف نستخدم

spk_1

يمكن هذه نقطة كثيرا مهمة ذكاء الاصطناعي الذي فرض نفسه اليوم على كل القطاعات، ويمكن هنا الأسئلة الكبيرة حاليا أحلام هل هناك إطار قانوني حالي ينظم استخدام

spk_1

الذكاء الاصطناعي بالشيء القانوني. هل في معايير أو ضوابط واضحة أم

spk_0

لا؟ مثل ما قلتي يعني هذا الآي آي كتير عم عم يمشي بطريقة كتير سريعة ما ما في قانون بنقول بحد ذاته يحدد كيف المحامي بيستخدم الآي آ بس في قوانين هي بتحدد كيف المحامي لازم يتعامل day to day.

spk_0

آم سفي أنين تقول مهنة للق- قانونية وكمان أكتر من هيك وهذه الشغلة اللي بتفاجأ فيها بالمحامي إنه نحن

spk_0

Uh, any online, um, social media or platform for terms and conditions.

spk_0

ألغيها بس أكثرية العالم ما بيقروها in clearing محامية

spk_0

Men hold their terms and conditions, AI, an old chat GPT, for example, with all

spk_0

إنه كل شيء كل المعلومات اللي أنتوا عم بتحطوها على platform it it belongs to the platform إذا إذا أنا كمحامية أنا عندي واجب علي conference application إنه آه ال- آه اللزمات السرية إذا أنا

spk_0

Um hot my client's information. I'll check GPT.

spk_0

Hey there, I'm ti to my client, a potential bug.

spk_0

بالمستقبل

spk_1

لخرق الخصوصية

spk_0

كثير كثير كثير يقوا فيها المحامية وفي كتير ممكن المحامي إذا تقول المحكمة بتعرف إنه أنا عم أعطي personal information about my client هذه ممكن تسبب إنه معشق محامية anymore هذه بتختلف تنقول عن القضية تاع princip سائقيا

spk_0

هو الأنا ما في قانون آه بحد زيته لل- لل- لل II بس بدي أقول إنه بعد ما صارت القضية اللي حكيت مع عنا من من دقيقة السمك اللي هي آه بشهر اثنين ألفين وخمسة وعشرين قدموها وهيدي مثل تلزم المحامية كلهم ليتعا- يستعملوا ال AI in بيقلب هذه ال document بيقولوا إنه ممنوع نستخدم as محامية أي تنكتب

spk_0

or statement or character reference وممنوع نحط شيء خاصه ب- بال- آه the client شخصيا

spk_0

On those platforms. That's again, asafe Mohammy yay, all of these things, they're not aware of it.

spk_2

مهمة ويعني زي ما وصف في إحدى القضايا كان اصطناع عم بعملها في القضايا ويعني بتعرفي بتفلسفة من عنده.

spk_2

في مواضيع خارج إطار يعني هو بالنهاية يتلقى معلوماته ويعيد صياغتها يعني نموذج الذكاء الاصطناعي أو كيف تتعلم الآلة يعني في إطارها البك اليوم أنتم كمحامين كيف تحموا حالكم من هذا النوع من المستندات المولدة بالذكاء الاصطناعي.

spk_0

أنا شخصيا ب- بها in this point أنا بحمي حالي إنه ما بستخدمها

spk_0

آم تستخدمها

spk_1

قادرة لهلا أحلام أبدا ما تستخدميها

spk_0

أبدا ما بستخدم ال II آم أنا يعني من العالم اللي شو بشك إنه purpose is there بس إنه أك- م- من لما بقول هالشغلة بعرف إنه يمكن أنا كان غلطانة في عالم كتير بتقول عم بتساعدهم وعم بتهون لهم الشغل

spk_0

آم ما مستحيل يعني مستحيل فكر قصة أو بعدين استخدمها بطريقة إنه تاخد شغلي مني نحن لما درسنا محامية مش بس بندرس القانون بس مثل ما قلت القانون هو موجود على الإنترنت والعالم اللي عنده وقت بتقدر تتطلعه وتعرف القوانين في واجب بهالبلد إنه كل العالم تعرف القوانين

spk_0

بس شغلة المحامي واللي اللي بتحسن الشغلة المحامي تقول بالتولي especially بالتجربة هي مثل ما قالي تروح القضية بدي أعرف بدي أطبق القانون على all of the circumstances of that case وأكتر من هيك في كتير قوانين مش أو أكثر مراجع قانونية case law مش موجودين

spk_0

AI عم تقدر توصل لي إياه فأنا كمحامية بعمل آه بشترك on certain platforms كل المراجع القانونية موجودة هونيك بدي أعرف بدي ألاقيهم بدي أعرف بدي أعمل research وبدي أعرف إنه لما أنا أطبق هال آه case law does actually work on the case or لا؟

spk_0

ال- آه ال- السك الاصطناعي بعده ما وصل لمرحلة يعرف هالشيء ممكن يوصل لمرحلة بعد سنة سنتين تلاتة بس right now it's very very early تعتمد عليه completely هي غلط مية بالمية وبنبه كل محامي وكل شخص بأي مهنة

spk_0

آم إذا بدكم تستعملوا آم أي

spk_0

I baswasili, it's the first step. It's the draught and then into the draught with has not and everything.

spk_0

في صح وأنه بطبق على القضية اللي أنت عم تشتغلوا عليها

spk_1

يعني إضاءة جدا مهمة.

spk_1

في هذه المساحة إيقاع جدا سريع وعالم الذكاء الاصطناعي. شكرا من القلب لإلك خبيرة قانون الهجرة والأحوال الشخصية المحامية أحلام حجازي نتمني لك نهاية سنة أيضا مثمرة ونلتقي السنة المقبلة بإذن الله

spk_0

إن شاء الله

spk_1

أحلام لإلك

spk_2

كمان.

spk_2

الواحد يحكي يعني خلاص خلصت السنة فعليا أنتم مع أستراليا، وطبعا المعلومات التي وردت في هذا البودكاست على سبيل المعلومة العامة، ظروف شخصية تختلف من شخص لآخر، لذا يرجع عليكم استشارة محامي أو خبير مستقل

spk_1

وبودكاست أنت والقانون بكامل إضاءاته وحلقاته يطلقوا على منصاتنا.

END OF TRANSCRIPT

شارك

تحديثات بالبريد الإلكتروني من أس بي أس عربي

.سجل بريدك الإلكتروني الآن لتصلك الأخبار من أس بي أس عربي باللغة العربية

باشتراكك في هذه الخدمة، أنت توافق على شروط الخدمة وسياسة الخصوصية الخاصة بـ "SBS" بما في ذلك تلقي تحديثات عبر البريد الإلكتروني من SBS

Download our apps
SBS Audio
SBS On Demand

Listen to our podcasts
Independent news and stories connecting you to life in Australia and Arabic-speaking Australians.
Personal journeys of Arab-Australian migrants.
Get the latest with our exclusive in-language podcasts on your favourite podcast apps.

Watch on SBS
Arabic Collection

Arabic Collection

Watch SBS On Demand