چند سال پیش، وقتی از «هوش مصنوعی» صحبت میکردیم، بیشتر یاد فیلمهای علمیتخیلی میافتادیم؛ رباتهایی که علیه انسان شورش میکنند، یا سیستمهایی که دنیا را در دست میگیرند. اما امروز، دیگر آن تخیلها به واقعیت تبدیل شدهاند.
هوش مصنوعی در تمام جنبههای زندگی ما نفوذ کرده است؛ از شبکههای اجتماعی و بانکداری گرفته تا پزشکی، خودروهای خودران و حتی تصمیمهای قضایی. اما همراه با این پیشرفت شگفتانگیز، یک چالش جدی هم به وجود آمده است:
وقتی هوش مصنوعی اشتباه کند و باعث ضرر، خسارت یا حتی جرم شود، چه کسی باید پاسخگو باشد؟
مثلاً تصور کنید یک خودروی خودران، به دلیل نقص در سیستم تشخیص چهره، به عابر پیادهای برخورد کند. آیا باید مالک خودرو را مقصر دانست؟ یا شرکت سازنده؟ یا شاید باید خود ربات را مسئول شناخت؟
در حقوق سنتی ما، مسئولیت همیشه بر دوش «انسان» است؛ اما در دنیای امروز، تصمیمگیرنده همیشه انسان نیست. اینجا دقیقاً جایی است که حقوق باید خود را با دنیای فناوری هماهنگ کند.
هوش مصنوعی دقیقاً چیست و چرا مسئلهساز شده است؟
هوش مصنوعی یا Artificial Intelligence (AI) به زبان ساده یعنی توانایی ماشین برای «یادگیری، تصمیمگیری و واکنش هوشمندانه».
برخلاف نرمافزارهای معمولی که رفتارشان از قبل تعیینشده است، سیستمهای هوش مصنوعی میتوانند از دادهها «یاد بگیرند» و حتی تصمیمهایی بگیرند که طراحشان هم پیشبینی نکرده است.
بهعنوان مثال:
- خودروهای خودران تسلا بدون راننده حرکت میکنند و در لحظه تصمیم میگیرند کجا ترمز کنند یا بپیچند.
- رباتهای جراح در اتاق عمل، حرکاتی انجام میدهند که از دقت دست انسان فراتر است.
- چتباتهایی مثل ChatGPT، پاسخهایی میسازند که گاهی حتی نویسندهشان را شگفتزده میکند.
در چنین شرایطی، مرز میان «ابزار» و «فاعل» مبهم میشود. وقتی یک نرمافزار تصمیمی میگیرد که پیامد حقوقی دارد، آیا هنوز فقط «ابزار» است؟ یا باید او را بهعنوان «عامل تصمیمگیر» در نظر گرفت؟
این استقلال در تصمیمگیری، زیربنای تمام چالشهای حقوقی هوش مصنوعی است. چون قانون، از ابتدا برای کنترل انسانها نوشته شده بود، نه ماشینهایی که خودشان فکر میکنند.
جرایم هوش مصنوعی دقیقاً به چه معناست؟
جرایم هوش مصنوعی به موقعیتهایی گفته میشود که در آن، هوش مصنوعی یا ابزار ارتکاب جرم است، یا خودش عامل مستقیم حادثه یا خسارت محسوب میشود. در واقع، رفتار سیستم هوشمند میتواند «نتیجهی یک تصمیم انسانی نباشد» و همین امر اثبات جرم و مقصر را بسیار پیچیده میکند.
حقوقدانان معمولاً این وضعیت را در سه دسته بررسی میکنند:
۱. انسان از هوش مصنوعی برای ارتکاب جرم استفاده کند
در این حالت، AI فقط وسیله است؛ مثل کسی که با چاقو مرتکب قتل میشود، ولی چاقو مقصر نیست. مثلاً شخصی با استفاده از هوش مصنوعی ویدیوهای جعلی (دیپفیک) تولید میکند تا حیثیت فردی را از بین ببرد. یا با الگوریتمهای یادگیرنده، رمز حسابهای بانکی را هک میکند. در این حالت، انسان مسئول است، اما چون ابزارش هوشمند است، اثبات نیت مجرمانه و دلیل فنی جرم بسیار دشوار میشود. در برخی کشورها، مثل آمریکا و انگلستان، قانونگذاران استفاده از هوش مصنوعی برای جرم را «عامل تشدید مجازات» در نظر گرفتهاند؛ زیرا هوش مصنوعی باعث میشود جرم پیچیدهتر، مؤثرتر و گاهی غیرقابلردگیری شود.
۲. هوش مصنوعی خودش مرتکب خطا یا جرم شود
اینجا وضعیت مبهمتر است. فرض کنید خودروی خودران تسلا در حالت اتوپایلوت باعث تصادف مرگبار شود، یا ربات پزشکی اشتباه تشخیص دهد و بیمار جانش را از دست بدهد. در این موارد، هیچ نیت انسانی مستقیمی در لحظه وقوع وجود ندارد. پس سؤال این است: چه کسی مسئول است؟
در حقوق فعلی ایران، چون ربات یا سیستم هوش مصنوعی «شخصیت حقوقی» ندارد، نمیتواند طرف دعوا باشد. بنابراین، قاضی باید یکی از انسانهای مرتبط (تولیدکننده، طراح یا مالک) را مسئول بشناسد. اما انتخاب اینکه دقیقاً کدامیک باید پاسخگو باشد، همیشه روشن نیست.
برای مثال:
اگر الگوریتم اشتباه تصمیم گرفته، آیا تقصیر برنامهنویس است؟
اگر حسگر سختافزار درست کار نکرده، آیا تقصیر شرکت سازنده است؟
یا اگر مالک در هنگام استفاده هشدارها را نادیده گرفته، آیا او باید خسارت بدهد؟
اینجا دقیقاً جایی است که مفهوم مسئولیت مدنی رباتها مطرح میشود.
۳. جرم علیه هوش مصنوعی انجام شود
شاید عجیب به نظر برسد، ولی در دنیای امروز، خودِ سیستم هوش مصنوعی هم میتواند قربانی جرم باشد. مثلاً اگر کسی دادههای آموزشی یک مدل را بدزدد، یا در الگوریتمش دستکاری کند، این عمل میتواند نوعی تخریب، سرقت داده یا نقض مالکیت فکری محسوب شود. در این حالت، جرم علیه مالک یا شرکت توسعهدهندهی آن سیستم انجام شده است، و باید طبق قوانین جرایم رایانهای و قانون حمایت از حقوق مؤلفان و مخترعان پیگیری شود.
مسئولیت مدنی رباتها در حقوق ایران
در حال حاضر، هیچ قانون خاصی در ایران وجود ندارد که مستقیماً به «هوش مصنوعی» اشاره کرده باشد. اما میتوان با تفسیر قوانین موجود، مسئولیت را تحلیل کرد.
بر اساس ماده ۱ قانون مسئولیت مدنی مصوب ۱۳۳۹:
«هر کس بدون مجوز قانونی، عمداً یا در نتیجه بیاحتیاطی به جان، مال یا حیثیت یا حقوق دیگران لطمهای وارد کند، مسئول جبران خسارت است.»
این ماده مبنای عمومی مسئولیت در ایران است. وقتی خسارت از طرف ربات ایجاد شود، باید دید پشت آن ربات چه انسانی قرار دارد. در این زمینه، سه گروه اصلی در دایرهی مسئولیت قرار میگیرند:
۱. تولیدکننده یا شرکت سازنده
اگر خطا ناشی از نقص فنی، طراحی اشتباه یا عدم رعایت استانداردهای ایمنی باشد، شرکت سازنده مسئول است؛ حتی اگر خودش از خطا آگاه نبوده باشد. در حقوق بینالملل، به این نوع مسئولیت میگویند: Product Liability (مسئولیت محصول).
مثلاً اگر خودروهای خودران تسلا به خاطر نقص حسگر با عابر برخورد کنند، شرکت موظف به جبران خسارت است، چون محصولش ایمن نبوده، حتی اگر راننده تقصیری نداشته باشد.
۲. برنامهنویس یا طراح الگوریتم
اگر الگوریتم به نحوی نوشته شده باشد که قابلیت خطا یا تبعیض داشته باشد، و این موضوع در مرحله تست نادیده گرفته شود، برنامهنویس نیز ممکن است مسئول شناخته شود. در واقع، این نوع مسئولیت بر پایهی تقصیر حرفهای است؛ همانطور که پزشک در صورت خطای حرفهای مسئول است.
۳. مالک یا کاربر سیستم
اگر کاربر از سیستم در شرایط نامناسب استفاده کند، هشدارها را نادیده بگیرد یا بهروزرسانیها را انجام ندهد، او هم میتواند مسئول شناخته شود. مثلاً اگر مالک خودروی خودران آن را در وضعیتی به کار ببرد که مجاز نبوده (مثلاً در جاده خاکی)، رفتار او نوعی «بیاحتیاطی» محسوب میشود و موجب مسئولیت مدنی است.
۴. مسئولیت تضامنی
در بسیاری از پروندههای واقعی، چند عامل با هم دخیلاند: سازنده، طراح و کاربر. در این حالت، دادگاه ممکن است همه را بهصورت تضامنی مسئول بشناسد. یعنی زیاندیده میتواند از هر کدام بهطور جداگانه مطالبه خسارت کند.
دیدگاه جهانی نسبت به قانون هوش مصنوعی
برای درک بهتر جایگاه حقوقی هوش مصنوعی، باید ببینیم کشورهای پیشرفته چه رویکردی در قبال این فناوری اتخاذ کردهاند. زیرا چالشها تقریباً مشابهاند، اما پاسخها متفاوت.
اتحادیه اروپا: قانون جامع AI Act
اتحادیه اروپا از نخستین مناطقی بود که بهصورت رسمی وارد تنظیمگری هوش مصنوعی شد. در سال ۲۰۲۴، قانونی تحت عنوان AI Act تصویب شد که هدف آن ایجاد چارچوبی شفاف برای استفاده، توسعه و نظارت بر سیستمهای هوشمند است. این قانون سیستمهای هوش مصنوعی را بر اساس «سطح ریسک» طبقهبندی میکند:
- ریسک پایین (مثل فیلتر اسپم ایمیلها)
- ریسک متوسط (مثل سیستمهای توصیهگر)
- ریسک بالا (مثل هوش مصنوعی در پزشکی یا قضاوت)
در موارد ریسک بالا، تولیدکنندگان موظفاند شفافیت الگوریتمی داشته باشند، دادههای آموزشی را مستند کنند و حتی امکان بازبینی تصمیمهای سیستم را فراهم کنند. همچنین در این قانون، مفهوم “شخصیت الکترونیکی محدود” برای رباتها مطرح شده؛ به این معنا که در برخی موارد (مثل خودروهای خودران یا رباتهای جراح)، ربات بهطور مستقل در برابر خسارت مسئول است، اما مسئولیت نهایی از طریق بیمه یا شرکت سازنده جبران میشود.
ایالات متحده آمریکا: تمرکز بر مسئولیت سازنده
در آمریکا، قانون فدرالی واحدی برای هوش مصنوعی وجود ندارد، اما در پروندههای متعدد، رویهی قضایی شکل گرفته است که در آن، مسئولیت بیشتر متوجه تولیدکننده یا شرکت توسعهدهنده است تا کاربر. پروندههای تسلا، آمازون و بوئینگ از نمونههای معروف هستند. در پروندهای مربوط به خودروهای خودران تسلا، دادگاه اعلام کرد:
«وقتی شرکت سیستمی را تولید میکند که تصمیمات حیاتی را بهصورت خودکار میگیرد، نمیتواند به بهانهی پیچیدگی فنی از مسئولیت شانه خالی کند.»
در آمریکا، تأکید بر «نظارت مستمر انسان بر تصمیمهای ماشین» است. اگر انسان عملاً کنترلی نداشته باشد، قانون، سازنده را مسئول میشناسد.
ژاپن: رباتها به عنوان شهروندان اقتصادی
ژاپن بهخاطر جامعهی رباتمحورش، یکی از پیشرفتهترین نظامهای حقوقی در این زمینه را دارد. این کشور در سال ۲۰۲۰ نظامی از بیمه اجباری رباتها را راهاندازی کرد؛ بر اساس آن، اگر رباتی موجب خسارت شود، بیمه بلافاصله جبران میکند و بعداً از مقصر واقعی (سازنده یا کاربر) بازیابی مینماید. در واقع، ژاپن به جای بحث فلسفی درباره شخصیت ربات، رویکرد «عملگرایانه» اتخاذ کرده است: هدف اصلی، جبران سریع خسارت و حفظ اعتماد عمومی به فناوری است.
بریتانیا و کانادا: مسئولیت مشترک انسان و ماشین
این کشورها بهجای اعطای شخصیت مستقل به رباتها، به مفهوم “مسئولیت مشترک انسان و ماشین” معتقدند. یعنی قانون به جای اینکه بپرسد «چه کسی مقصر است؟»، میپرسد «چه فرایندی باعث این تصمیم شده است؟» در نتیجه، در دعاوی مربوط به هوش مصنوعی، دادگاهها عملکرد زنجیرهای افراد — از برنامهنویس تا ناظر سیستم — را بررسی میکنند. این الگو برای ایران هم میتواند الهامبخش باشد، زیرا با نظام فقهی و حقوقی ما که بر رابطهی سببیت و تقصیر تکیه دارد، سازگارتر است.
چالشهای حقوقی ایران در برابر هوش مصنوعی
ایران هنوز وارد مرحلهی قانونگذاری اختصاصی در حوزهی هوش مصنوعی نشده است، اما استفاده از فناوریهای هوشمند در بانکها، دستگاه قضایی، تجارت الکترونیک و حتی آموزش رو به افزایش است. اگر همین امروز پروندهای دربارهی خطای یک ربات یا سیستم هوش مصنوعی مطرح شود، قاضی ناچار است به قوانین عمومی استناد کند؛ مثل قانون مدنی، قانون مسئولیت مدنی یا قانون جرایم رایانهای. اما این قوانین برای دنیای دیجیتال کافی نیستند.
مهمترین چالشهای ایران در این زمینه عبارتاند از:
۱. نبود تعریف قانونی از هوش مصنوعی
قانون هنوز مشخص نکرده که «هوش مصنوعی» دقیقاً چیست. آیا نرمافزار است؟ آیا ماشین فیزیکی است؟ آیا موجودی مستقل محسوب میشود؟ بدون تعریف دقیق، هیچ قاعدهی حقوقی پایداری نمیتوان وضع کرد.
۲. ابهام در رابطه سببیت
در فقه و حقوق ایران، برای تحقق مسئولیت مدنی باید رابطهی «سببیت مستقیم» بین رفتار و زیان وجود داشته باشد. اما در هوش مصنوعی، علت خطا ممکن است ترکیبی از هزاران تصمیم الگوریتمی باشد. در نتیجه، اثبات رابطهی علت و معلول بسیار دشوار میشود.
۳. سکوت قانون درباره رفتار مستقل رباتها
قانون مدنی ما، فقط «اشخاص حقیقی و حقوقی» را به رسمیت میشناسد. ربات نه این است و نه آن. در نتیجه نمیتوان او را طرف دعوا قرار داد. ۴. فقدان نظام بیمهای برای فناوریهای هوشمند در ایران، هنوز بیمهای وجود ندارد که خسارات ناشی از عملکرد سیستمهای خودکار را پوشش دهد. در حالی که در کشورهای پیشرفته، بیمه رباتها و سیستمهای AI یکی از پایههای اصلی اعتماد عمومی است.
۵. کمبود آگاهی تخصصی در دستگاه قضایی
بسیاری از قضات، وکلا و کارشناسان هنوز در زمینهی فناوریهای نوین آموزش ندیدهاند. در نتیجه، تفسیر و ارزیابی فنی پروندهها ممکن است با خطا همراه شود.
۶. چالشهای فقهی
از نگاه فقه اسلامی، مسئولیت به «فاعل مختار» تعلق میگیرد. اما ربات، فاقد نیت و قصد است. این مسئله باعث میشود نسبت دادن جرم یا تقصیر به او از نظر شرعی دشوار باشد. بنابراین باید نظامی طراحی شود که میان قواعد فقهی و واقعیتهای فنی سازگار باشد.
راهکارها و پیشنهادهای قانونی برای آینده
برای اینکه ایران بتواند با چالشهای هوش مصنوعی روبهرو شود، باید چند اقدام اساسی را در سطح قانونگذاری و سیاستگذاری انجام دهد:
۱. تدوین قانون جامع هوش مصنوعی
مثل «قانون جرایم رایانهای»، باید قانونی جدید تدوین شود که مسئولیتها، حدود استفاده، شفافیت دادهها و حقوق کاربران را مشخص کند. این قانون باید شامل تعریف دقیق از هوش مصنوعی، نحوهی کنترل، و حتی مقررات اخلاقی در استفاده از آن باشد.
۲. ایجاد نهاد ملی نظارت بر الگوریتمها
یک سازمان مستقل زیر نظر قوه قضاییه یا وزارت ارتباطات میتواند عملکرد سیستمهای هوشمند را از نظر عدالت، تبعیض و امنیت دادهها بررسی کند. در اروپا به این نهادها “AI Watchdog” میگویند.
۳. تعریف شخصیت الکترونیکی محدود
در برخی حوزهها مانند خودروهای خودران یا رباتهای پزشکی، میتوان برای رباتها شخصیت حقوقی محدود قائل شد؛ فقط برای اهداف بیمه و جبران خسارت.
۴. الزام شرکتها به بیمه مسئولیت فناوری
هر شرکتی که فناوری هوش مصنوعی تولید یا وارد میکند، باید بیمهی مسئولیت مدنی داشته باشد. در صورت وقوع حادثه، زیاندیده سریعتر به حقش میرسد و بیمه از مقصر واقعی بازیابی میکند.
۵. آموزش تخصصی وکلا و قضات
دانشگاهها باید در کنار دروس سنتی، رشتههای میانرشتهای مثل «حقوق فناوری» یا «حقوق هوش مصنوعی» ایجاد کنند. در آینده، وکلایی موفق خواهند بود که بتوانند زبان حقوق و فناوری را همزمان بفهمند.
۶. ایجاد بانک داده حقوقی هوش مصنوعی
پروندههای قضایی مرتبط با فناوریهای هوشمند باید ثبت و تحلیل شوند تا رویه قضایی قابل اعتماد شکل گیرد.
آینده قانون در عصر هوش مصنوعی
دنیای امروز با سرعتی باورنکردنی به سمت خودکارسازی و تصمیمگیری ماشینی پیش میرود. در آینده نزدیک، ممکن است قاضیها، پزشکها یا حتی وکلا از سیستمهای هوشمند برای تصمیمگیری استفاده کنند. اما اگر روزی قاضی رأیی صادر کند که بر اساس تحلیل اشتباه یک سیستم AI بوده، آیا آن رأی معتبر است؟ اگر ربات جراح تصمیمی اشتباه بگیرد، آیا بیمار حق شکایت از «ربات» را دارد؟ پاسخ به چنین سؤالاتی فقط در پرتو قانونگذاری دقیق و پویاست که میتواند عدالت را حفظ کند. قانون باید نهتنها پاسخی به گذشته، بلکه پیشبینیکنندهی آینده باشد.
نتیجهگیری
هوش مصنوعی، بزرگترین انقلاب فکری و صنعتی قرن بیستویکم است. اما همانطور که بخار و برق روزی جهان را متحول کردند و قانون ناچار شد خود را با آنها تطبیق دهد، اکنون نیز باید برای هوش مصنوعی چارچوبهای جدیدی تعریف شود. جرایم هوش مصنوعی و مسئولیت مدنی رباتها دیگر یک موضوع نظری نیستند؛ بلکه مسئلهای واقعیاند که بهزودی در دادگاههای ایران نیز مطرح خواهند شد. بنابراین، وظیفهی قانونگذار، دانشگاهها و نهادهای علمی این است که با آینده همراه شوند، نه اینکه منتظر بمانند تا فناوری از قانون جلو بزند. در نهایت، رباتها ساختهی ما هستند. اما این ما هستیم که باید یاد بگیریم چطور عادلانه، اخلاقی و مسئولانه از آنها استفاده کنیم. قانون باید نه مانع پیشرفت، بلکه نگهبان عدالت در عصر هوش مصنوعی باشد.
دیدگاه شما