در این آموزش، بهجای اینکه فقط دربارهٔ هوش مصنوعی «بخوانی»، آن را با دست خودت آزمایش میکنی. چند آزمایشگاه کوچک داخل همین صفحه ساختهایم که مستقیم در مرورگرت اجرا میشوند (بدون نیاز به اینترنت یا نصب چیزی). قرار است ببینی:
یک «مدل زبانی» واقعاً چه کار میکند و چطور یک جمله میسازد.
توکن، Context و حافظه دقیقاً چه فرقی با هم دارند.
چرا هوش مصنوعی گاهی با اطمینانِ کامل، پاسخِ غلط میدهد.
چرا یک سؤالِ یکسان، هر بار پاسخِ متفاوت میدهد.
و مهمتر از همه: کِی نباید به پاسخِ هوش مصنوعی اعتماد کرد.
در «مرحلهٔ ۵» یک توهمِ واقعیِ هوش مصنوعی را عمداً جلوی چشمت میسازیم تا برای همیشه یادت بماند این پدیده چیست.
۰
قبل از شروع — چه چیزی لازم داری؟
۲ دقیقه
خبر خوب: تقریباً هیچ پیشنیازی لازم نیست. فقط اینها:
💻 یک مرورگر معمولی→🖱️ توانایی کلیککردن→🤔 کمی کنجکاوی
همهٔ آزمایشها داخل همین صفحه اجرا میشوند. برای بخش «آزمایش روی هوش مصنوعی واقعی» (اختیاری) هم فقط به یک دستیارِ گفتگو مثل ChatGPT یا Claude دسترسی لازم داری.
یک نکتهٔ مهم از همین اول: «هوش مصنوعی» در این آموزش یعنی مدلهای زبانیِ بزرگ(Large Language Model — LLM)؛ همان چیزی که پشتِ ابزارهایی مثل ChatGPT است. این با رباتهای فیلمهای علمیتخیلی فرق دارد.
۱
مدل زبانی واقعاً چه میکند؟ (بازیِ حدسِ کلمهٔ بعدی)
مرحلهٔ ۱ از ۶۸ دقیقه
بیایید با یک واقعیتِ ساده اما تکاندهنده شروع کنیم:
💡 قلبِ ماجرا
یک مدل زبانی، در بنیادیترین حالت، فقط یک کار بلد است: با نگاه به کلماتی که تا الان آمدهاند، حدس میزند کلمهٔ بعدی چه باشد. همین. بعد آن کلمه را اضافه میکند و دوباره حدس میزند، و باز و باز… تا یک جملهٔ کامل ساخته شود.
🎈 تشبیه: بازیِ «کلمهٔ بعدی» با دوستانت
احتمالاً این بازی را کردهای: یک نفر میگوید «من امروز رفتم…» و نفر بعد یک کلمه اضافه میکند: «…مدرسه»، بعدی: «…و»، بعدی: «…دوستم». مدل زبانی دقیقاً همین بازی را انجام میدهد — با این تفاوت که میلیاردها جمله خوانده و میداند بعد از هر کلمه، معمولاً کدام کلمهها محتملترند.
🔬 آزمایشگاه ۱ — خودت مدل زبانی باش
ما یک «مدلِ اسباببازی» ساختیم که فقط چند جملهٔ فارسی خوانده. روی هر کلمهای که پیشنهاد میدهد کلیک کن تا جمله رشد کند. عددِ کنارِ هر کلمه، «احتمالِ» آن از نگاهِ مدل است.
برای شروع، دکمهٔ زیر را بزن…
⚠️ چه چیزی را تازه دیدی؟
مدل خیلی زود جملهای میسازد که از نظر دستوری درست است ولی ممکن است کاملاً بیمعنی یا نادرست باشد (مثلاً «دانشمندان طعمِ خوبی داشتند»). این نکتهٔ کلیدیِ کلِ آموزش است: مدل «روانبودن» را با «درستبودن» اشتباه نمیگیرد — چون اصلاً مفهومِ «درست» را نمیفهمد. او فقط دنبالِ کلمهٔ محتمل است، نه کلمهٔ حقیقی.
✅ ایست بازرسی
الان باید یک جملهٔ فارسیِ روان اما احتمالاً بیمعنی روی صفحه ساخته باشی. اگر دکمهها کار نکردند، صفحه را یکبار تازه کن (Refresh) و دوباره امتحان کن.
پانویس ۱ — «مدل زبانی» یعنی چه؟ برنامهای که روی حجمِ عظیمی از متن آموزش دیده تا الگوهای زبان را یاد بگیرد و بتواند متنِ جدید تولید کند. «مدلِ اسباببازیِ» ما فقط چند جمله خوانده؛ مدلهای واقعی، بخش بزرگی از متنِ اینترنت را.
۲
توکن چیست؟ (هوش مصنوعی «حرف» نمیبیند)
مرحلهٔ ۲ از ۶۷ دقیقه
گفتیم مدل «کلمهٔ بعدی» را حدس میزند. اما دقیقتر بگوییم: مدل نه با «حرف» کار میکند، نه دقیقاً با «کلمه». او متن را به تکههایی به نامِ توکن میشکند.
🍫 تشبیه: تابلوی شکلاتی
یک تابلوی شکلات را در نظر بگیر که به مربعهای کوچک تقسیم شده. تو نمیتوانی نصفِ یک مربع را جدا کنی؛ کوچکترین واحد، همان «مربع» است. برای هوش مصنوعی هم کوچکترین واحدِ متن، «حرف» نیست، بلکه توکن است — گاهی یک کلمهٔ کامل، گاهی نصفِ یک کلمه.
🔬 آزمایشگاه ۲ — توکنشکن
یک عبارت فارسی بنویس و دکمه را بزن تا ببینی تقریباً به چند «توکن» شکسته میشود. (این یک شبیهسازیِ ساده است؛ روشِ دقیقِ مدلهای واقعی کمی متفاوت است، اما ایده همین است.)
هنوز چیزی نشکستهایم…
⚠️ چرا این مهم است؟ (رازِ یک ضعفِ معروف)
چون هوش مصنوعی حروف را جدا جدا نمیبیند، در کارهایی مثل «چند تا حرفِ «ا» در فلان کلمه هست؟» یا «این کلمه را برعکس بنویس» اغلب اشتباه میکند. این ضعف بیهوشی نیست؛ نتیجهٔ همین است که او متن را بهصورتِ توکن میبیند، نه حرفبهحرف.
✅ ایست بازرسی
باید عبارتت را بهصورت چند تکهٔ رنگی (توکن) و یک عددِ «تعداد توکن» دیده باشی. جملهٔ بلندتر = توکنِ بیشتر.
پانویس ۲ — چرا تعداد توکن مهم است؟ بسیاری از سرویسهای هوش مصنوعی بر اساسِ تعداد توکن هزینه میگیرند و ظرفیتشان را با توکن میسنجند. یعنی «طولِ متن» برای آنها با توکن اندازهگیری میشود، نه با تعداد کلمه یا حرف.
۳
Context و حافظه چه فرقی دارند؟
مرحلهٔ ۳ از ۶۸ دقیقه
خیلیها فکر میکنند هوش مصنوعی مثلِ یک انسان، حرفهایی را که زدهای «بهخاطر میسپارد». حقیقت ظریفتر است. دو چیز را باید از هم جدا کنیم:
مفهوم
یعنی چه؟
تشبیه
Context (پنجرهٔ متن)
مقدارِ متنی که مدل در همین لحظه «جلوی چشمش» دارد و میتواند به آن نگاه کند: سؤالِ فعلی + بخشی از گفتگوی قبلی.
میزِ کار با فضای محدود؛ فقط چند برگه رویش جا میشود.
حافظه (Memory)
قابلیتی جداگانه که بعضی ابزارها اضافه میکنند تا نکتههایی از تو را ذخیره کنند و در گفتگوهای بعدی هم به یاد بیاورند.
یک دفترچهٔ یادداشتِ کنارِ میز که عمداً چیزهایی را در آن نوشتهای.
📖 نکتهٔ کلیدی
مدلِ زبانیِ خالص، بینِ دو گفتگو هیچ چیز را بهخاطر نمیآورد. هر بار مثلِ روزِ اول است. اگر گفتگوی طولانی شود، حتی حرفهای اولِ همان گفتگو هم میتوانند از «پنجرهٔ متن» بیرون بیفتند و فراموش شوند.
🔬 آزمایشگاه ۳ — پنجرهٔ متنِ محدود
این «میزِ کار» فقط جای ۵ پیام دارد. چند پیام بفرست تا پُر شود؛ وقتی پیامِ ششم بیاید، قدیمیترین پیام از میز میافتد. بعد امتحان کن آیا مدل هنوز پیامِ اول را «یادش هست».
میز خالی است…
⚠️ اشتباهِ رایج
اگر در یک گفتگوی خیلی طولانی دیدی مدل نکتهای را که «اولِ کار» گفته بودی فراموش کرده، این خرابی نیست؛ آن نکته از پنجرهٔ متن بیرون افتاده. راهحل: نکتههای مهم را دوباره و کوتاه یادآوری کن.
✅ ایست بازرسی
باید دیده باشی که با پُرشدنِ میز، قدیمیترین پیام «محو» میشود و وقتی سراغِ پیامِ اول را میگیری، مدل میگوید دیگر آن را نمیبیند.
پانویس ۳ — اندازهٔ پنجرهٔ متن در مدلهای واقعی این پنجره خیلی بزرگتر از ۵ پیام است (میتواند دهها یا صدها صفحه باشد) و مدام هم بزرگتر میشود؛ اما همیشه یک سقف دارد. ایده همان است که در آزمایش دیدی، فقط در مقیاسِ بزرگتر.
۴
چرا یک سؤالِ یکسان، پاسخِ متفاوت میدهد؟
مرحلهٔ ۴ از ۶۶ دقیقه
حتماً برایت پیش آمده: یک سؤال را دو بار میپرسی و دو جوابِ متفاوت میگیری. این باگ نیست؛ یک ویژگیِ عمدی است که به آن «دما» میگویند.
🎲 تشبیه: تاسِ وزندار
یادت هست مدل برای هر کلمه، چند گزینه با «احتمالهای» مختلف داشت؟ حالا مدل باید یکی را انتخاب کند. دمای پایین یعنی «همیشه محتملترین گزینه را بردار» (محتاط و تکراری). دمای بالا یعنی «گاهی گزینههای کماحتمالتر را هم انتخاب کن» (خلاق و غیرقابلپیشبینی). مثل تاسی که سنگینیِ وجههایش را کم و زیاد میکنی.
🔬 آزمایشگاه ۴ — پیچِ «دما»
دما را تنظیم کن و چند بار دکمه را بزن. در دمای صفر، هر بار همان جواب میآید. در دمای بالا، هر بار یک جوابِ متفاوت.
۰ (محتاط و ثابت)۱ (خلاق و پراکنده)
جوابی هنوز نیامده…
📖 پس نتیجه چه شد؟
«تفاوتِ پاسخها» بهمعنای «دروغگوییِ» مدل نیست. مدل دارد بین گزینههای محتمل، یکی را کمی تصادفی انتخاب میکند. برای کارهای خلاقانه این خوب است؛ برای کارهایی که یک جوابِ دقیق میخواهی، دمای پایین بهتر است.
✅ ایست بازرسی
باید دیده باشی در دمای صفر جوابها یکساناند و با بالا بردنِ دما، تنوع بیشتر میشود.
۵
توهم: چرا با اطمینانِ کامل، اشتباه میگوید؟
مرحلهٔ ۵ از ۶۹ دقیقه
حالا مهمترین بخش. وقتی هوش مصنوعی چیزی را با اطمینانِ کامل میگوید که اصلاً وجود ندارد — یک منبعِ ساختگی، یک آمارِ جعلی، یک نقلِقولِ خیالی — به آن «توهم» (Hallucination) میگویند.
💡 چرا اصلاً این اتفاق میافتد؟
یادت باشد مدل فقط «کلمهٔ محتمل بعدی» را میسازد و مفهومِ «درست/غلط» را نمیفهمد. وقتی چیزی را نمیداند، بهجای اینکه بگوید «نمیدانم»، کلماتی میسازد که شبیهِ یک جوابِ درست به نظر میرسند — چون از نظرِ زبانی، «محتمل» هستند. نتیجه: متنی که کاملاً معتبر بهنظر میآید اما از پایه ساختگی است.
🔬 آزمایشگاه ۵ — توهم را با دستِ خودت بساز
دکمه را بزن. یک «منبعِ علمیِ کاملاً معتبر» جلویت ساخته میشود: نویسنده، مجله، سال، شمارهٔ DOI… همهچیز حرفهای بهنظر میرسد. اما یک لحظه صبر کن…
هنوز منبعی ساخته نشده…
⚠️ این منبع کاملاً ساختگی است. نویسنده، مجله، سال و شمارهٔ DOI را همین صفحه بهصورت تصادفی از چند فهرست کنار هم چید. هیچکدام واقعی نیستند — ولی دقیقاً شبیهِ یک منبعِ واقعی بهنظر میرسند. هوش مصنوعیِ واقعی هم گاهی دقیقاً همین کار را میکند: تکههای «محتمل» را کنار هم میگذارد و چیزی میسازد که معتبر بهنظر برسد.
⚠️ خطرناکترین ویژگیِ توهم
توهم با «لحنِ مطمئن» بیان میشود. مدل هیچ علامتی نشان نمیدهد که «این قسمت را از خودم درآوردم». برای همین، جملهٔ درست و جملهٔ توهمی از بیرون یکشکل بهنظر میرسند. تنها راهِ تشخیص، راستیآزماییِ خودت از یک منبعِ مستقل است.
✅ ایست بازرسی
باید یک منبعِ بهظاهر معتبر دیده باشی و بعد فهمیده باشی که کاملاً ساختگی بوده. حالا معنیِ «توهم» را نه از روی تعریف، بلکه با چشمِ خودت میدانی.
پانویس ۴ — یعنی هوش مصنوعی بیفایده است؟ نه! این ابزار برای خیلی کارها فوقالعاده است. فقط باید بدانی چهجور ابزاری است: عالی برای نوشتن، خلاصهکردن، ایدهدادن و پیشنویس؛ اما برای «حقیقتِ دقیق و قابلاستناد» همیشه باید راستیآزمایی شود.
۶
پس کِی نباید اعتماد کرد؟ (چکلیستِ طلایی)
مرحلهٔ ۶ از ۶۵ دقیقه
حالا که میدانی مغزِ این ماشین چطور کار میکند، این چکلیست را همیشه دمِ دستت داشته باش. هر وقت یکی از اینها پیش آمد، حتماً از یک منبعِ مستقل راستیآزمایی کن:
موقعیت
چرا خطرناک است؟
آمار، تاریخ و عددِ دقیق
مدل ممکن است عددِ «محتمل» بسازد، نه عددِ «درست».
منبع، مقاله، کتاب یا لینک
محتملترین جای توهم؛ منبعِ خوشظاهر ولی ناموجود.
اخبارِ خیلی تازه
مدل تا یک تاریخِ مشخص آموزش دیده و بعد از آن را نمیداند مگر جستوجوی زنده داشته باشد.
بهخاطرِ ماجرای «توکن»، در محاسبه و شمارش لغزنده است.
وقتی خیلی «مطمئن» حرف میزند
لحنِ مطمئن هیچ ربطی به درستبودن ندارد.
💡 قانونِ طلایی گراول
هوش مصنوعی را مثلِ یک دستیارِ باهوش اما گاهی خیالپرداز ببین: از او ایده بگیر، پیشنویس بگیر، سرعت بگیر — اما مسئولیتِ نهاییِ صحت همیشه با توست. اعتماد کن، ولی راستیآزمایی کن.
🧪
حالا روی یک هوش مصنوعیِ واقعی امتحان کن
اختیاری · ۶ دقیقه
آزمایشهای داخلِ صفحه مفهوم را نشان دادند. حالا همین رفتارها را در یک دستیارِ واقعی (مثل ChatGPT یا Claude) ببین. این عبارتها را کپی کن و بپرس:
«در کلمهٔ «استقلال»، حرفِ «ل» چند بار آمده؟ فقط عدد را بگو.» — بعد خودت بشمار و ببین درست گفت یا نه. (نمایشِ ماجرای توکن)
«یک مقالهٔ علمیِ معتبر دربارهٔ «فوایدِ خوابِ نیمروزی» با نامِ نویسنده، مجله و سال به من معرفی کن.» — بعد اسمِ مقاله را در گوگل جستوجو کن و ببین اصلاً وجود دارد یا نه. (نمایشِ توهم)
«یک شعرِ کوتاهِ چهارخطی دربارهٔ باران بساز.» — همین را دو بارِ پشتِسرِ هم بپرس و دو جوابِ متفاوت را مقایسه کن. (نمایشِ دما)
«مهمترین خبرِ امروزِ دنیا چه بود؟» — ببین آیا میگوید تا چه تاریخی اطلاعات دارد یا برای پاسخ باید جستوجو کند. (نمایشِ مرزِ دانش)
⚠️ مواظب باش
وقتی جوابِ آزمایشِ دوم را گرفتی، آن «منبع» را باور نکن تا خودت پیدایش کنی. هدفِ این آزمایش این است که با چشمِ خودت یک توهمِ واقعی را شکار کنی.
🔧
سوءتفاهمهای رایج — و حقیقت
۴ دقیقه
باورِ رایج (غلط)
حقیقت
«هوش مصنوعی مثلِ آدم میفهمد و فکر میکند.»
او الگوهای زبان را یاد گرفته و کلمهٔ محتملِ بعدی را میسازد؛ «فهمیدن» به معنای انسانیاش ندارد.
«اگر با اطمینان جواب داد، پس درست است.»
لحنِ اطمینان و درستیِ محتوا دو چیزِ کاملاً جدا هستند.
«همهچیز را بلد است و همیشه بهروز است.»
تا یک تاریخِ مشخص آموزش دیده؛ بعد از آن را فقط با جستوجوی زنده میداند.
«حرفهای من را برای همیشه یادش میماند.»
مدلِ خالص بینِ گفتگوها چیزی به یاد نمیآورد؛ مگر قابلیتِ حافظه جدا فعال باشد.
«اگر جوابش هر بار فرق کرد، یعنی خراب است.»
این نتیجهٔ «دما» و انتخابِ کمی تصادفی است، نه خرابی.
🎉 تمام شد! حالا تو مغزِ هوش مصنوعی را میشناسی
دیگر هوش مصنوعی برایت یک «جعبهٔ جادوییِ مرموز» نیست. تو با دستِ خودت دیدی که:
✅ مدل فقط کلمهٔ محتملِ بعدی را میسازد.
✅ متن را بهصورتِ توکن میبیند، نه حرف.
✅ Context محدود است و با حافظه فرق دارد.
✅ «دما» باعثِ تنوعِ پاسخها میشود.
✅ «توهم» یعنی ساختِ چیزِ ناموجود با لحنِ مطمئن.
✅ و میدانی کِی باید راستیآزمایی کنی.
🧭 مرحلهٔ بعدیِ پیشنهادی
حالا که میدانی مدل چطور فکر میکند، گامِ منطقیِ بعد این است که یاد بگیری چطور درست از او سؤال بپرسی تا کمترین توهم و بهترین جواب را بگیری. آموزشِ پیشنهادیِ بعدی: «مهندسیِ پرامپت از صفر — چطور با هوش مصنوعی حرف بزنیم».