متن کامل مصاحبه با آیت الله سیدمحمدعلی ایازی
تاریح مصاحبه: 12 دسامبر 2022
بسم الله الرحمن الرحیم
سرآغاز
با سلام و تشکر از اعضای کنسرسیوم ایمان و هوش مصنوعی که امکان بحث و بررسی را برای اینجانب فراهم کردند. بیگمان ارزیابی و سخن گفتن در این حوزه در یک گفتمان جمعی به ارتقای بحث و تبادل دیدگاهها کمک میکند و زمینههای گفتگوی همدلانه میان ادیان را فراهم میسازد و از این که این کنسرسیوم پیشگام شده و به موفقیتهائی هم در حوزه اندیشه و نقد آن نائل آمده، جای بسی خوشوقتی و قدردانی است. سخن خودم را در پاسخ به پرسشهای هوش مصنوعی با دو نکته مقدماتی آغاز میکنم:
یکم: گریزناپذیری این حرکت علمی:
ما چه بخواهیم و چه نخواهیم این روند مطالعات هوش مصنوعی، هم در حال انجام است و هم در حال گسترش. اگر امروز مقولههایی را در هوش مصنوعی در حوزههای خاصی مانند خودرانها یا پهبادها یا برخی از دستگاههایی رباطی که ما آنها را میشناسیم که فعالیت میکنند، اما مسلما در حوزههای دیگری به این گستردگی در زمینه معادله انسانی رشد و گسترش خواهد یافت و در نتیجه روند تکاملی آن در آیندهای نه چندان دور شگفتآور و بلکه غافلگیرکننده خواهد بود و فکر میکنم سخن گفتن در اصل آن بیمعنا است. اینکه شرکتهای بزرگی در آینده در حوزه هوش مصنوعی با مدلسازی ویژگی‌های یک پدیده، رویداد، رفتار یا فرآیند درکی انتزاعی و پیش‌بینی‌کننده از عملکرد انسان شکل خواهند گرفت، جای بحث و سخن نیست و اینکه از این طرحها در سطح افکار عمومی پشتیبانی خواهند شد، باز چیزی نیست که پنهان باشد. سخن در آیندهپژوهیهای آن در این حوزه و حوزه مطالعات و تحقیقات آنان نه دریک موضوع خاص رویداد، رفتار یا فرآیند عمل؛ بلکه در موضوعات مختلف و در پی تحقق بخشیدن به قدرت علمی جامعه که قدرت فرهنگی و سیاسی و اقتصادی آن هستند و یک رقابت جدیای هست که این کار را دنبال می کنند. پس ما نمیتوانیم بگوییم این فعالیتها را چهکار بکنیم؟ این کار در حال اتفاق هست و دست ما هم نیست که بیاییم در باره اصل آن چون و چرا کنیم. ما میتوانیم بگوئیم که اگر این کار را در حوزه عقیده و ایمان مورد تأکید قرار دهیم، اتفاق بهتری رخ خواهد داد.
دوم: ضرورت آسیبشناسی:
بدون شک هوش مصنوعی در آینده نه چندان دور زندگی ما را بیشتر تحت تأثیر قرار خواهد داد. همینطوری که در تحولاتی که در سه دوره گذشته اتفاق افتاده، (انقلاب صنعتی، اینرنت)بخصوص از آن زمانی که مساله نت و ایجاد شبکههای اجتماعی شکل گرفت و در قالب غولهای اطلاع رسانی به وقوع پیوست و شاهد آن بودیم که چه دگرگونیهایی در عالم اقتصاد و سیاست اتفاق افتاد و بایدها و نبایدها و ارزشهای اجتماعی و شیوه زیست انسانی را به نظام جهانی تحمیل کرد، باید شاهد باشیم که در آینده نیز این تحول در هوش مصنوعی زیست متفاوتی را باز تحمیل خواهد کرد و در این تحولی که به حوزه هوش مصنوعی میرسد نوعی توانمندسازیهای فردی و بهتر کردن انسانها و دسترس بودن آزادانه برای همه افراد فراهم خواهد ساخت.
خوب وقتی ما شاهد آن هستیم که هوش مصنوعی میتواند در بهینهسازیهای لجستیک، مطالعات و تحقیقات اجتماعی، پزشکی، یا علوم انسانی، علومی تجربی یا ارتقای علمی مثل تشخیص تقلب، خلق آثار هنری و کارهایی که در حوزه زبان و ترجمه درحال اتفاق است، مانند سیستم های ماشینی هوشمند که در بسیاری از این مسائل اتفاق میافتد، پس میتواند نشان بدهد و نویدی بدهد که بهرمندی بیشتری را برای بشریت به ارمغان میآورد. این موارد و موارد مشابه دیگر نقاط مثبتی هستند که کم نیستند و بسادگی نمیتوان از کنار آن عبور کرد. این محققان اسلامی هستند که در کنار ادیان دیگر باید طرحی ارائه دهند که با استقبال از نقاط مثبت، آسیبشناسی شود و همچنین باید آیندهپژوهی شود که چه مشکلاتی این تحول بزرگ را در حوزه معنویت، ایمان و اخلاق تهدید میکند و اگر به بشریت در زمینه علم و رشد رفاه کمک میکند، آیا در خلق ارزشهای اخلاقی مثل عدالت، امنیت هم کمک میکند و آیا این هوش مصنوعی چه فرصتهائی معنوی را ایجاد میکند و چه تحولی در حوزه شناختشناسی انسان پدید میآورد، در آن صورت است که استقبال از هوش مصنوعی و سخن از الگوریتمهایی که در فضای ایمان به معنویت پیشنهاد میشود، معنادار و در جهت کمک به آرامش واقعی بشریت خواهد بود و راهنمائی به فرد خاص راهنمائی جامعه تلقی میگردد.
پرسش اول
- هوش مصنوعی با مدلسازی ویژگی‌های یک پدیده، رویداد، رفتار یا فرآیند میتواند درکی انتزاعی و پیش‌بینی‌کننده از عملکرد آن ترسیم کند و رفتار آینده آن را پیشبینی کند. آیا برای هدایت انسان ها به این نوع الگوریتم های پیش بینی نیاز داریم؟ چه نیازی به آنها داریم؟
با توجه به نکات مقدماتی پاسخ خودم را نه با ابعاد مثبت و مفید مسئله که در چالشهای این مدلسازی آغاز میکنم.
چالشهای مدلسازی و الگوریتم هوش مصنوعی
در این خصوص 5 چالش اساسی وجود دارد. الگوریتمهای پیشبینی میتواند برای هدایت انسان مثمر ثمر واقع شود، اما به این پنج مساله باید بصورت جدی فکر کنیم.
مساله اول: چالش سلب اختیار انسان:
هوش مصنوعی که درکی انتزاعی و پیش‌بینی‌کننده از عملکرد را ترسیم کند و رفتار آینده آن را پیشبینی نماید، هرچند نقطه عطفی در تاریخ حیات فکری انسان خواهد بود. اما سئوال این است که آیا قابلیت پیشبینی و تصمیم اگر سازگاری داشته باشد که گزینههای مختلف را در پیش او بگذارد، مطلوب و تقریبا رفتاری طبیعی با هویت اختیاری انسان است و در آن صورت در تنوعی که این انسان دارد، در جهت سلب اختیار نیست. اما نگرانی که هست نکند الگوریتمها با زمینه پیشبینی که دارند منجر به سلب اختیار انسان بشود و انسان را در یک شرایط و موقعیتی ناخودآگاه و منفعلانه در تصمیمی قرار دهد که این انسان دیگر خود شخص با اراده و اختیار نخواهد بود. در این صورت او آگاه از فعل و انفعال تصمیم خودش نباشد؛ بلکه ترتیبات پیشبینی به گونهای شکل گرفته باشد، بدون آنکه خودش متوجه باشد، مانند قرار گرفتن در ریل قطاری که گریزی از خروج مسیر ندارد و او مجبور است که گزینهای از پیش تعیین شده را انتخاب کند که با اطلاعات مخصوص و در غیاب اطلاعات دیگر او را به سمت آن هدایت میکند و در نتیجه او ماشینی در کنار ماشینهای دینامیکی خواهد بود، که برای او تصمیم میگیرند و او را در مجموعهای چند جانبه و مدهوش کننده قرار میدهند که در آن اراده و انتخاب آگاهانه شخص معنا نخواهد داشت. (البته اکثریت جامعه در فرض طبیعی امروز مقهور اطلاعات ناقص خود هستند).
بحثی را یک جامعه شناس مسلمان ایرانی (دکتر شریعتی) در حدود 50 سال پیش مطرح کرده است با عنوان چهار زندان در کتاب انسان و اسلام که انسان دارای چهار جبر و چهار زندان است که یکی از آنها زندان طبیعت، یعنی ژنهایی که از پدر و مادر و خانواده به او ارث رسیده است، و دوم هیستوریسم یعنی تأثیر تاریخ و جغرافیا و پیشفرضهای تاریخی و زندان سوم سوسیولوژیسم و زندان نظام اجتماعی هست که برای او به وجود میآورد. و بدترین زندان زندان خویشتن خویش است، حالا سوالی که وجود دارد این است که آیا این الگوریتمهای پیشبینی کننده، موجب یک زندان پنجم برای انسان نمیشود؟ این سوال من است که آیا این الگوریتمها چنین قابلیتی ندارند که باعث سلب اختیار از انسان از سوی سیستمی درهم تنیده و پیچیده با قدرت مسحورکننده بشود؟
نکته دوم: دور از دسترسی برای شناخت:
آیا این الگوریتمها آیا به گذشته وابسته است و اصلا ربطی به آینده مستقل از گذشته ندارد. چون اگردر پیوند با گذشته باشد و تجربههای گذشته در کیفیت شکلدهی به آینده در این الگوریتم پیشبینی شده باشد و نوستالوژیهای گذشته در باروری و تصمیم مؤثر باشد، خوب قهرا نوع پیشبینی آن به یک نوعی شناخته شده است. اما اگر الگوریتمها گذشته را قطع کند و صرفا به آینده بپردازد و خودش تولید کند و نه بازتولید، مساله فرجام این پیشبینی سخت میشود.
نکته سوم مساله ابداع و نوآوری و آینده سازی:
این نکته که آیا واقعا ابداع و نوآوری و آیندهسازی در ساختار وجود انسانی و شخصیت و ویژگیهایی که او دارد، آیا در همین قالب و محدوده و قلمرو عمل میکند یا نه چیز جدیدی را درست میکند که ما آن را نمیشناسیم و نمیدانیم که به کجا میرود. به تعبیر دیگر اینکه آیا این ابداع و نوآوریها و آیندهسازیها به ناکجاآباد نمیرود و ناکجاآباد نمیشود؟
نکته چهارم: مدیریت حکمرانی نامرئی
تهیه الگوریتمهای پیشبینی ساز نوعی حکمرانی نامرئی است که این روند از هوش در نهایت این الگوریتمها دست چه کسی قرار میگیرد. دست شرکتهایی مانند (فرض کنید) گوگل، مایکروسافت توئیتر یا برخی شرکت های بزرگ دیگر که غول اطلاعاتی هستند که گاه حکومتها را هم آنها به صورت نامرئی هدایت و تعیین میکنند. (مانند اتفاقاتی که در انتخابات ریاست جمهوری آمریکا برای ترامپ اتفاق افتاد. این اتفاق زنگ خطری بود که نشان داد که شرکتها چگونه و چقدر تاثیرگذار هستند). یا نه حکمفرمانی در دست دولتها هستند و آنان هستند که این الگوریتمها را تعیین میکنند و اگر در اختیار دولتهای دمکراتیک باشند، باز رسانههای تحت سیطره همان غولهای خبری چه نقشی میآفرینند. این نکته باز بیشتر سئوال است؟
نکته پنجم: مناسبات جدید اجتماعی و فرهنگی
وقتی انقلاب صنعتی اتفاق افتاد، به دنبال خود چیزهایی را در زندگی فردی و اجتماعی انسان به وجود آورد و خیلی وضعیت زندگی و شکل مناسبات اجتماعی جوامع و انسانها را دگرگون کرد. وقتی ما به گذشته قبل از ماشین بر میگردیم، شیوه زیست قبل و بعد آن، تفاوت جدی پیدا کرد. امروز ما به خوبی تحولات رفتاری مردمان آن نسلها را در مقایسه با گذشته قبل از میتوانیم ارزیابی و مقایسه کنیم. بعد وقتی که ما به انقلاب تکنولوژیک و اینترنت رسیدیم، شکل جدیدی از مناسبات اجتماعی را به ارمغان آورد که با گذشته خیلی تفاوت میکرد. امروز مرزبندی میان نسل موبایل و شبکههای اجتماعی با کسانی که در قبل از آن دوره هستند قابل مشاهده و مثال زدنی است. به جز مسئله دانش و اطلاعات، شیوه زبان و رفتار نسل وابسته به این تکنولوژی متفاوت با نسل قبلی است. نکات دینی و اخلاقی آن نیازمند تحلیل و رفتارشناسی است.
بعد که مرحله هوش مصنوعی فراگیر و جهانی و متنوع شود، باید باز هم شاهد تفاوتها و تغییراتی باید باشیم که در زندگی کنونی از هم اکنون ایجاد کرده است. سوال اینجانب این است که اگر این حجم از دیتاهایی که بوجود میآید. این هوش مصنوعی که میخواهد عمل بکند، آیا به همریختگی آن قابل پیشبینی هست یا قابل پیش بینی نیست. چه اتفاقی رخ میدهد این مساله پنجم من است.
بنابراین، گرچه من با تحقق چنین الگوریتمی به شکل کلان آن با خوشبینی به آینده برخورد میکنم و همیشه با همین روحیه خوشبینی میگویم در آن زمان که بشریت بمب اتم را کشف کرد و ضایعات و تلفات سنگینی را بر بشریت تحمیل کرد و حجم نابود کردن انسانها و شهرها را شاهد بودیم و بعد به دنبال خود اتفاقاتی را آورد، اما بالاخره بشریت راهی برای کنترل آن پیدا کرد که مقدار بسیار بزرگی از خطرات آن را کاست، هرچند باز همیشه این نگرانی برای بشریت وجود دارد که فردی دیوانه بخواهد از آن سوء استفاده کند.
من با همین خوشبینی میگویم که در باره هوش مصنوعی هم اگر الگوریتمهائی درست کند، که پیشبینی کند و برای افرادی فرصت تهدید را فراهم سازد، اما بشریت میتواند در نهایت و با افت و خیز و تلفات بسیار سنگین و شکننده آن را کنترل کند، اما در هر حال چون این انسان است و تحرکش تحرک دینامیکی است. این تهدید و خطر همواره به شکل فزاینده و نامرئی وجود دارد که میتواند در مورد انسانها تحلیلهایی بکند که فرآینده آن خطرناک و ترسناک باشد.
من برای اینکه فهمی از سخن خود ارائه داده باشم در این زمینه اشاره میکنم به فوتبال. در زمینه فوتبال کارشناسان و آشنایان به فوتبال شهر و کشوری محاسباتی میکنند و شرط بندی را تعیین میکنند، اما با همه اینها میبینید که عموم افرادغافلگیر شده و پیشبینیها درست در نمیآید و در لحظات آخر یک اتفاقات دیگری میافتد. میگویند خوب دیگر این دنیای فوتبال است. پس وقتی در یک فوتبال ساده اینطور غافلگیرکننده است. در باره هوش مصنوعی در وضعیتی که نسبت به انسان و پیشبینیهای سخت مسائل کلی هست، مجموعا با ظرفیتهای طبیعی که امکان خطا وجود دارد و هوش مصنوعی این فرایند را سرعت می بخشد و شتاب میدهد. من میخواهم بگویم که البته جای نگرانی هست و هرچه محتمل خطرناک باشد، اما درصد ضعیف آن احتمال، باز کمش هم زیاد و خطرناک است و از خطرات جدی آن برای بشریت نمیکاهد.
پس پنج سوال و چالش را مطرح کردم در زمینه این 5 سئوال، باید کاری کرد و البته کسانی که مدافعان هوش مصنوعی هستند بیشتر روی پتانسیلهای توانمند سازی هوش مصنوعی و جنبههای مثبت آن تکیه میکنند که چه ابداعاتی دارد. درست هم هست، اما سخن من این است که آن سخنها درست، اما تا چه اندازه میتواند این الگوریتمها با اخلاق، معنویت و عدالت اجتماعی سازگار باشد. آیا ممکن است این هوش مصنوعی مسائلی را برای انسان تحمیل کند که نتواند به سادگی از آن گردونه خارج بشود و شرایط غیر واقعی را برای انسان ایجاد بکند. بخصوص تاکید من با گسترش حجم دیتاها هست که در آن وقت شرایط را به صورتی تصاعدی تشدید و خطرناک میکند که شناخت آسیبها و پیش بینی برای مهار آن را به شدت سخت و نگران کننده میکند.
پرسش دوم
- ربات‌های هوشمند میتوانند با نظارت و هدایت انسانها را در تصمیمگیری بهتر یاری کنند. آیا این نوع تعامل ربات و انسان را مفید (یا حتی مجاز) میدانید؟ تحت چه شرایطی؟
قلمرو تعامل ربات و انسان
یاری رساندن انسان البته که خیلی مهم است، اما این مسئله در صورتی در فضای ایمانی قابل قبول است که نوع تعامل ربات و انسان را در چهارچوبهای این هدف، مشخص کنیم، مثل این که: 1) هوش مصنوعی چهکارهائی در تصمیمگیری بهتر میتواند یاری بکند. 2)آنان کدام هدف را میخواهند دنبال کنند؟ 3)شرکتهای بزرگی که تأمین کننده و مصرف کننده این الگوریتمها هستند، دنبال چه نوع از هدایت انسان و در راستای کدام منافع سیاسی و اقتصادی، و هدایت انسانها را در تصمیمگیری بهتر یاری میکنند؟ آیا لازم نیست این مسائل به طور شفاف روشن شود؟ آیا ادیان میتوانند راه حل نشان بدهند؟
وقتی ما در این طرف دنیا به این مساله فکر میکنیم میگوییم که بالاخره نظام سرمایهداری به دنبال سود و قدرت است و اگر سود نباشد نه فعالیت میکند و نه سرمایهگذاری. امروز نگاه کنید این شرکتهای ایلان ماسک چگونه تبدیل به قدرت نرم اقتصادی و بلکه سیاسی شده است و گاهی برخی از این شرکتها کاندیدائی را از گردونه کار ساقط میکند و چون سودآوری دارند، همه چیز محتمل است. خصوصا که هوش مصنوعی با توانائیهای ویژه که دارد. آیا میتوان مدلی را پیشنهاد داد که هم منافع تولیدی تأمین شود و هم در راستای انسانیت انسان باشد.
بنابراین، پرسش جدی این است: آیا در کنار این تصمیمسازیهای خوب و مفید آیا امکانش نیست که به سمت تصمیمگیریهای بد و بدتر هم برود، برای این چیزی که شرکتها دنبال منافعشان هستند. یا آن شرکتهای تعریف و مشخص نه، بلکه در کنار این شرکتها، کسانی از این الگوریتمها سوء استفاده کنند، کسانی که در هیچ چارچوب اخلاقی و انسانی و قاعدهمند قرار نمیگیرند، مثلا ترویستها و جریاناتی که خشونت طلب هستند از الگوریتم این هوش و این اطلاعات و این تصمیمها استفاده کنند.
سخن را از این باب میگویم که در گذشته این نوع سوء استفاده سابقه داشته است. وقتی که اینترنت آمد گروههایی برای فروش سلاح، برای فروش مواد مخدر و قاچاق امور خطرناک آمدند، و از آن برای مقاصد غیر اخلاقی سوء استفاده کردند. دنیای سکس امروز وسیلهای برای مسخ کرامت زن شده و بدن او کالائی تبلیغاتی نظام سرمایهداری.
البته تا حد زیادی این نگرانی با هوشمندی انسان خنثی شده است، اما سخن اینجانب این است که آیا وقتی شما میگویید: هوش مصنوعی الگوریتمی بسازد که میتواند تصمیم گیری بکند، آیا میتواند کنترل بشود که در برابر تصمیمهای غلط هم بایستد و جلوی آن را بگیرد؟ آزادی اجتماعی شاید در مواردی منع نکند، اما همه جا آیا این چنین است؟
پرسش سوم
- الگوریتم های هوش مصنوعی تا چه اندازه باید بتوانند به اطلاعات خصوصی افراد برای اجرای سیاست های نظم اجتماعی دسترسی داشته باشند؟ به نظر شما مهم ترین مسائل حقوق بشری که باید با فناوری های هوش مصنوعی مورد توجه قرار گیرد چیست؟
حفظ اطلاعات خصوصی حق و گرانیگاه تجویز هوش مصنوعی
بدون شک حفظ اطلاعات خصوصی حق هر انسان است. کرامت انسانی و عدالت اجتماعی ایجاب میکند که اطلاعات خصوصی افراد برای اجرای سیاست های نظم اجتماعی مهار شود. معیار آن هم این دو اصل کرامت و عدالت و پایه فعالیتهای علمی و اقتصادی باشد، طبعا دو دغدغه مهم یک جامعه اخلاقی است که نسبت به مسائلش در این دو مسئله حساسیت داشته باشد.
اما سوال من این است که واقعا این مسالهای که در حوزه اطلاعات خصوصی مطرح است تا چه اندازه در کوتاه مدت یا در درازمدت امکان برنامهریزی برای کنترل از زیادهخواهی در برابر اطلاعات وجود دارد. این که هست و مسلما هیچ تردیدی نیست استفاده از هک کردن برای دسترسی به اطلاعات اشخاص.
مساله اطلاعات خصوصی حق هر انسان است که باید حفظ بشود. اما اینکه در کوتاه مدت یا بلند مدت امکان برنامهریزی برای کنترل از زیادهخواهی در برابر اطلاعات وجود دارد و نظامهایی که در این جهت وجود دارند بخصوص نظام سرمایهداری تا چه اندازه ملزم برای شناخت ذائقه انسان برای شناخت سیاستهای نظم اجتماعی پایبند به اخلاق خواهد بود. من بحث رسواییها را نمیگویم . میخواهم بگویم که مثلا فرض کنید دستگاهها و شرکتهایی که میخواهند بدانند خواستهها و ذائقههای انسان چه هستند و از اینها در جهت کانالیزه کردن آن در جهت منافع خاص استفاده کنند، نگرانی اخلاقی است.
برای آن چیزی که به عنوان شخصی سازی و نه به عنوان اطلاعات عمومی وجود دارند. بدون تردید باید تفاوت بگذاریم بین اطلاعات عمومی یک شخص و اطلاعات خصوصی شخص. من نگرانی که دارم در خصوص اطلاعات خصوصی شخص است که از آن سوء استفاده بشود. یعنی الگوریتمها یک چیزی را درست بکنند که بتوانند از آن اطلاعات خصوصی سوء استفاده بکنند. نظام هوش مصنوعی در شکل مطلوب آن باید به گونه ای انجام بشود که زمینههای سواستفاده را به حداقل کاهش بدهد.
ادامه مصا حبه درپست بعدی خدمت مخاطبان گرامی تقدیم می گردد.
دیدگاهها
هنوز دیدگاهی ثبت نشده است. نخستین نفر باشید.
یادداشت، نقد یا دیدگاه خود را بنویسیدبدون ترک این صفحه، برداشت خود را با ما و دیگر خوانندگان در میان بگذارید.