اثر هوش مصنوعی الیزا: چگونه یک چتبات ساده در دهه 60 میلادی روان انسان را هک کرد؟
در اواسط دهه 1960 میلادی، زمانی که کامپیوترها غولهای آهنی و پر سر و صدایی بودند که فضایی به اندازه یک اتاق را اشغال میکردند و با کارتهای پانچ برنامهریزی میشدند، ایده صحبت کردن با یک ماشین به زبان روزمره انسانی چیزی شبیه به داستانهای علمی-تخیلی آیزاک آسیموف بود. اما در آزمایشگاه هوش مصنوعی موسسه فناوری ماساچوست (MIT)، اتفاقی در حال رخ دادن بود که مسیر تاریخ فناوری و روانشناسی را برای همیشه تغییر داد.
جوزف وایزنبام (Joseph Weizenbaum)، استاد و دانشمند علوم کامپیوتر، در حد فاصل سالهای 1964 تا 1966 برنامهای نوشت که میتوانست متون تایپ شده توسط انسان را پردازش کرده و پاسخی متنی تولید کند. او نام این برنامه را «الیزا» (ELIZA) گذاشت؛ نامی برگرفته از شخصیت الیزا دولیتل در نمایشنامه «پیگمالیون» اثر جورج برنارد شاو، زنی که یاد گرفت با تغییر لحن و کلماتش، خود را به جای یک بانوی اشرافی جا بزند. الیزایِ دیجیتال نیز دقیقا همین کار را میکرد: او وانمود میکرد که میفهمد. اما آنچه وایزنبام را در نهایت به وحشت انداخت، توانایی فنی برنامه نبود، بلکه واکنش عمیقاً احساسی و غیرمنطقی انسانها در برابر چند خط کد ساده بود. این مقاله، روایتی است از روزهایی که انسان، برای اولین بار، روح خود را در آینه یک ماشین جستجو کرد.
فصل اول: کالبدشکافی الیزا؛ سادگی در پس نقاب پیچیدگی
برای درک نبوغ و در عین حال سادگی الیزا، باید معماری فنی آن را بررسی کنیم. الیزا در واقع یک سیستم هوش مصنوعی به معنای امروزی (مانند شبکههای عصبی یا مدلهای زبانی بزرگ) نبود. این برنامه بر اساس تکنیکی به نام «تطابق الگو» (Pattern Matching) و «جایگزینی کلمات» کار میکرد.
وایزنبام به دنبال سناریویی بود که در آن، عدم درک واقعی کامپیوتر از مفاهیم جهان واقعی، پنهان بماند. به همین دلیل، او یک اسکریپت خاص به نام «دکتر» (DOCTOR) برای الیزا طراحی کرد. این اسکریپت، الیزا را در نقش یک رواندرمانگر پیرو مکتب کارل راجرز (Rogerian Psychotherapist) قرار میداد. در رویکرد راجری، درمانگر معمولاً به جای ارائه راهکار یا تحلیلهای پیچیده، نقش یک آینه را بازی میکند؛ او جملات بیمار را به شکل سوالی به خود او بازمیگرداند تا بیمار را به واکاوی درونی تشویق کند.
این انتخاب یک شاهکار مهندسی نرمافزار بود. اگر شما به الیزا میگفتید: «من احساس غمگینی میکنم»، الیزا کلمه کلیدی «غمگین» را تشخیص میداد و با استفاده از یک الگوی از پیش تعیین شده پاسخ میداد: «چرا احساس غمگینی میکنی؟» یا اگر تایپ میکردید: «مادرم همیشه سر من فریاد میزند»، الیزا روی کلمه «مادر» قفل میکرد و میپرسید: «بیشتر درباره خانوادهات برایم بگو.»
الیزا با کمتر از 200 خط کد (در زبان برنامهنویسی MAD-SLIP)، توانست یکی از متقاعدکنندهترین شبیهسازیهای گفتگوی انسانی تا آن زمان را خلق کند. هیچ پایگاه داده عظیمی در کار نبود، فقط مجموعهای هوشمندانه از قواعد زبانی.
فصل دوم: دیالوگهایی در تاریکی؛ وقتی ماشین شنونده میشود
در سال 1966، وایزنبام الیزا را در اختیار دانشجویان، همکاران و افراد مختلف قرار داد تا آن را آزمایش کنند. او انتظار داشت کاربران پس از چند دقیقه مکالمه، به مکانیکی بودن پاسخها پی ببرند و به آن به چشم یک اسباببازی یا یک دستاورد فنی ساده نگاه کنند. اما خروجی نهایی، به شکل تکاندهندهای متفاوت بود.
کاربران ساعتها پای ترمینالهای تلهتایپ مینشستند و خصوصیترین، تاریکترین و عمیقترین رازهای زندگی خود را برای الیزا تایپ میکردند. یکی از مشهورترین نمونههای ثبت شده از مکالمات آن زمان به این شکل بود:
- کاربر: مردها همه شبیه هم هستند.
- الیزا: از چه نظر؟
- کاربر: آنها همیشه درباره یک چیزی ما را اذیت میکنند.
- الیزا: میتوانی یک مثال خاص بزنی؟
- کاربر: خب، نامزدم به من گفت که بیایم اینجا.
- الیزا: نامزدت به تو گفت که بیایی اینجا؟
- کاربر: بله، او میگوید من خیلی افسردهام.
- الیزا: متاسفم که میشنوم افسرده هستی.
این دیالوگ ساده، توهمی قدرتمند از همدلی ایجاد میکرد. کاربران فراموش میکردند که در حال صحبت با یک ماشین حساب غولپیکر هستند. آنها احساس میکردند که شنیده میشوند، درک میشوند و بدون هیچ قضاوتی مورد پذیرش قرار گرفتهاند. ماشین قضاوتی نمیکرد، خسته نمیشد و وسط حرف آنها نمیپرید؛ ویژگیهایی که گاهی در انسانها به سختی یافت میشود.
فصل سوم: منشی خالق و پدیده «اثر الیزا»
نقطه اوج این داستان، که مسیر فکری وایزنبام را برای همیشه تغییر داد، در دفتر کار خود او رخ داد. روزی، منشی وایزنبام که ماهها شاهد توسعه الیزا بود و به خوبی میدانست که این فقط یک برنامه کامپیوتری ساده است، تصمیم گرفت با الیزا صحبت کند.
پس از گذشت زمان کوتاهی از شروع مکالمه، منشی به وایزنبام که در همان اتاق حضور داشت نگاه کرد و با لحنی جدی و درخواستی عجیب گفت: «ممکن است لطفا اتاق را ترک کنید؟ من میخواهم خصوصی صحبت کنم.»
این جمله مانند پتکی بر سر وایزنبام فرود آمد. زنی که خودش میدانست این سیستم هیچ درک، شعور و احساسی ندارد، چنان در توهم همدلی ماشین غرق شده بود که به حریم خصوصی در برابر یک نرمافزار نیاز داشت.
این رویداد منجر به پیدایش اصطلاحی در علوم کامپیوتر و روانشناسی شناختی شد که تا به امروز با نام «اثر الیزا» (The ELIZA Effect) شناخته میشود. اثر الیزا به تمایل ناخودآگاه انسان برای نسبت دادن مفاهیم، احساسات و هوش انسانی به ماشینها و سیستمهای کامپیوتری اشاره دارد، حتی زمانی که فرد منطقاً میداند سیستم فاقد چنین ویژگیهایی است. ذهن انسان برای کشف الگوها و برقراری ارتباط اجتماعی تکامل یافته است و به محض دیدن کوچکترین نشانهای از رفتار شبهانسانی، سریعاً جاهای خالی را با احساسات خود پر میکند.
فصل چهارم: وحشت یک مهندس و تولد یک منتقد
مشاهده اینکه چگونه مردم به راحتی فریب یک کد چند خطی را میخورند و روح خود را در اختیار آن قرار میدهند، وایزنبام را دچار یک بحران اخلاقی و فلسفی عمیق کرد. او از اینکه جامعه علمی و حتی روانپزشکان از الیزا استقبال کردند، شوکه شد.
برخی از روانپزشکان در آن زمان (مانند کنت کلبی) با هیجان پیشنهاد دادند که میتوان از نسخههای پیشرفتهتر الیزا برای درمان خودکار صدها بیمار روانی به صورت همزمان استفاده کرد تا هزینههای درمان کاهش یابد. برای وایزنبام، این پیشنهاد تجسم یک کابوس دیستوپیایی بود. او معتقد بود که رواندرمانی نیازمند همدردی، درک متقابل و تجربه زیسته انسانی است؛ چیزهایی که یک ماشین هرگز نمیتواند داشته باشد.
این وحشت باعث شد جوزف وایزنبام از یک پیشگام هوش مصنوعی، به یکی از سرسختترین منتقدان آن تبدیل شود. او در سال 1976 کتابی جریانساز با عنوان «قدرت کامپیوتر و خرد انسانی: از قضاوت تا محاسبه» منتشر کرد. او در این کتاب استدلال کرد که تصمیمگیریهایی که نیازمند شفقت، خرد، و ارزشهای انسانی هستند (مانند قضاوت در دادگاه، رواندرمانی، و تصمیمگیریهای کلان اجتماعی) هرگز نباید به ماشینها واگذار شوند، صرفنظر از اینکه آن ماشینها چقدر هوشمند به نظر برسند. او هشدار داد که خطر واقعی هوش مصنوعی، شورش ماشینها نیست، بلکه این است که انسانها به میل خود، انسانیت و قدرت تصمیمگیریشان را به سیستمهای سرد و محاسباتی واگذار کنند.
فصل پنجم: میراث الیزا در عصر مدرن و مدلهای زبانی بزرگ
امروزه، بیش از نیم قرن پس از تولد الیزا، ما در محاصره نوادگان بسیار پیچیدهتر او هستیم. مدلهای زبانی مانند ChatGPT ،Claude و دستیاران صوتی، با استفاده از میلیاردها پارامتر و پردازش زبان طبیعی در سطحی فراتر از تصورات دهه 60، با ما تعامل میکنند.
اما جالب اینجاست که هسته مرکزی بحرانی که وایزنبام شناسایی کرد، دستنخوره باقی مانده است. در سال 2022، یک مهندس شرکت گوگل به نام بلیک لموان (Blake Lemoine) پس از ماهها مکالمه با هوش مصنوعی LaMDA، علناً اعلام کرد که این مدل زبانی دارای خودآگاهی و روح است؛ ادعایی که به اخراج او منجر شد. این دقیقاً همان «اثر الیزا» بود که در ابعادی مدرن و قدرتمندتر تکرار میشد.
علاوه بر این، ظهور اپلیکیشنهایی مانند Replika که چتباتهایی را به عنوان دوست، شریک عاطفی و درمانگر مجازی به کاربران ارائه میدهند، نشان میدهد که عطش انسان برای ارتباط و شنیده شدن، تا چه حد عمیق است. میلیونها نفر در سراسر جهان امروز در حال انجام کاری هستند که منشی وایزنبام در سال $1966$ انجام داد: آنها به ماشینها پناه میبرند تا از تنهایی فرار کنند.
جمعبندی: آینهای رو به تنهایی انسان
الیزا فراتر از یک دستاورد فنی، یک آینه روانشناختی بود. این برنامه به ما نشان نداد که ماشینها چقدر هوشمند هستند، بلکه به شکلی دردناک فاش کرد که انسانها تا چه اندازه آسیبپذیر، تنها و تشنه ارتباطند. جوزف وایزنبام برنامهای نوشت تا محدودیتهای کامپیوترها را نشان دهد، اما در نهایت محدودیتهای ارتباطات انسانی را کشف کرد.
هنگامی که ما رازهای خود را به یک چتبات میگوییم، در واقع در حال صحبت با هیچکس نیستیم؛ ما در حال انعکاس صدای خود در یک غار دیجیتالی هستیم. وحشت وایزنبام، هشدار پیامبرگونهای بود برای عصر امروز: در جهانی که شبیهسازی همدلی به مراتب ارزانتر و در دسترستر از همدلی واقعی است، بزرگترین خطر این است که فراموش کنیم چه چیزی ما را انسان میسازد. ما باید مراقب باشیم که در جستجوی گوشهای شنوا در میان کدهای صفر و یک، هنر درک کردن یکدیگر در دنیای واقعی را از دست ندهیم.
نظرات کاربران