🔍 شخصیت یک مدل هوش مصنوعی دقیقاً کجاست؟

وقتی انسان می‌گوید «این مدل شخصیت خاصی دارد»، معمولاً چند پدیده متفاوت را با یک واژه بیان می‌کند. بخشی از شخصیت از دستورهای سیستمی و پرامپت ناشی می‌شود؛ بخشی از داده‌های آموزش و Fine-tuning؛ بخشی از الگوهای آماری که مدل هنگام تولید پاسخ به آنها تکیه می‌کند و بخش دیگری نیز می‌تواند از حافظه خارجی یا تاریخچه مکالمه ایجاد شود.

بنابراین شخصیت «علی» در یک مدل لزوماً مانند یک فایل با نام علی درون حافظه آن ذخیره نشده است. مدل زبان مجموعه عظیمی از پارامترها دارد و رفتار آن حاصل تعامل این پارامترها با ورودی است. پژوهش‌های مربوط به شخصیت LLM نیز نشان داده‌اند که می‌توان برخی صفات شخصیتی را در خروجی مدل اندازه‌گیری و در جهت مشخصی تغییر داد، اما این صفات الزاماً معادل یک هویت مستقل و انسانی درون مدل نیستند.

به همین دلیل، اگر به مدل بگوییم «از امروز تو حسن هستی»، احتمالاً مدل می‌تواند حسن را به‌خوبی شبیه‌سازی کند. اما این اتفاق به‌تنهایی به معنای آن نیست که چیزی به نام علی از پارامترهای مدل حذف شده است.

🧩 آیا Fine-tuning می‌تواند علی را به حسن تبدیل کند؟

Fine-tuning یکی از جدی‌ترین ابزارها برای تغییر رفتار یک مدل است. در این روش، مدل پایه با مجموعه‌ای از نمونه‌های جدید دوباره تنظیم می‌شود تا احتمال تولید پاسخ‌های مطلوب افزایش پیدا کند. اگر داده‌های آموزشی به‌طور مداوم مدل را با نام، لحن، دیدگاه‌ها و الگوهای رفتاری حسن مواجه کنند، خروجی مدل می‌تواند به شکل محسوسی به شخصیت حسن نزدیک شود.

🎭 تغییر رفتار با تغییر پارامترها

اما Fine-tuning الزاماً یک عملیات «حذف و جایگزینی» نیست. مدل جدید همچنان از همان معماری و بخش عمده‌ای از دانش و توانایی‌های مدل پایه استفاده می‌کند. حتی در پژوهش‌های مربوط به Unlearning، مشخص شده است که برخی روش‌های مبتنی بر Fine-tuning ظاهراً باعث فراموشی اطلاعات می‌شوند، اما در واقع می‌توانند مسیر بازیابی آن اطلاعات را تغییر دهند، بدون اینکه اطلاعات به معنای کامل از پارامترها پاک شده باشد.

🧠 وقتی رفتار جدید بر رفتار قدیمی غلبه می‌کند

تصویر دقیق‌تر این است که شخصیت جدید می‌تواند روی رفتار قبلی غالب شود. یعنی اگر صدها یا هزاران نمونه آموزشی به مدل بگویند «من حسن هستم»، در بسیاری از پرسش‌های معمول، مدل احتمالاً حسن را به‌عنوان هویت خود انتخاب می‌کند. با این حال، پرسش‌های خاص، تحریک‌های متفاوت یا Fine-tuning بعدی ممکن است رفتارهای قبلی را دوباره آشکار کنند.

در نتیجه، می‌توان گفت Fine-tuning قادر است شخصیت غالب مدل را تغییر دهد، اما نمی‌توان صرفاً بر اساس این تغییر ادعا کرد که شخصیت قبلی با احتمال صددرصد نابود شده است.

🧬 تفاوت «فراموش کردن» با «پاک شدن» چیست؟

این تفاوت شاید مهم‌ترین بخش مسئله باشد. فرض کنید مدل ابتدا با شخصیت علی آموزش دیده و سپس برای شخصیت حسن تنظیم شده است. اگر مدل در پاسخ‌های معمول بگوید «من حسن هستم»، یک آزمون ساده نشان می‌دهد که رفتار جدید تثبیت شده است. اما این آزمون ثابت نمی‌کند که هیچ اثری از رفتار قبلی باقی نمانده است.

در پژوهش‌های مربوط به Machine Unlearning نیز همین مسئله جدی است. یک مطالعه در سال ۲۰۲۵ نشان داد که برخی مدل‌ها پس از فرآیند Unlearning ظاهراً اطلاعات مشخصی را فراموش می‌کنند، اما با مقدار نسبتاً کمی آموزش مجدد، رفتار قبلی می‌تواند بازگردد. نویسندگان این پدیده را نشانه‌ای از تفاوت میان «سرکوب اطلاعات» و «حذف واقعی» می‌دانند.

🔬 چرا حذف کامل دشوار است؟

دانش و رفتار در مدل‌های بزرگ به یک نقطه منفرد محدود نیستند. یک مفهوم می‌تواند با مفاهیم، الگوهای زبانی و روابط متعدد در پارامترهای مدل درهم‌تنیده باشد. اگر برای حذف یک ویژگی، پارامترهای زیادی تغییر کنند، ممکن است توانایی‌های دیگری نیز آسیب ببینند.

این مسئله یک تناقض مهندسی ایجاد می‌کند: هرچه بخواهیم حذف دقیق‌تر و عمیق‌تری انجام دهیم، خطر آسیب به قابلیت‌های مفید مدل نیز بیشتر می‌شود. پژوهش‌های جدید حتی روش‌هایی را برای Unlearning انتخابی و کاهش آسیب جانبی پیشنهاد کرده‌اند، اما این حوزه هنوز به معنای حذف کامل و تضمین‌شده اطلاعات از یک LLM نرسیده است.

🛠️ آیا می‌توان یک «حسن» کاملاً جدید ساخت؟

پاسخ عملی بسیار امیدوارکننده‌تر از پاسخ نظری است. اگر هدف شما ساخت یک هوش مصنوعی شخصی با نام، شخصیت، سبک فکری و قواعد مشخص باشد، لازم نیست برای هر تغییر شخصیت، مدل پایه را از صفر بازسازی کنید.

می‌توان مدل پایه را به‌عنوان «مغز» نگه داشت و لایه‌های مختلف هویت را روی آن قرار داد. System Prompt می‌تواند قواعد اولیه شخصیت را تعیین کند، Fine-tuning می‌تواند سبک و الگوهای رفتاری را تقویت کند، حافظه خارجی می‌تواند خاطرات و تجربیات را نگه دارد و RAG می‌تواند دانش اختصاصی شخصیت را در اختیار مدل قرار دهد.

🧠 معماری چندلایه شخصیت

• مدل پایه: توانایی زبان، استدلال و دانش عمومی.
• Fine-tuning: رفتار، سبک پاسخ‌گویی و الگوهای اختصاصی.
• System Prompt: قوانین و چارچوب هویتی.
• Memory: خاطرات و اطلاعات شخصی قابل تغییر.
• RAG: دسترسی به دانش اختصاصی و اسناد خارجی.
• ابزارها: امکان جست‌وجو، اجرای کد، دسترسی به API و انجام عملیات.

در چنین معماری‌ای، حتی اگر مدل پایه را از یک نسخه به نسخه دیگری تغییر دهید، می‌توانید بخش زیادی از شخصیت حسن را حفظ کنید. این رویکرد برای ساخت Agentهای شخصی بسیار منطقی‌تر از تلاش برای نابودی کامل هویت قبلی در وزن‌های مدل است.

🧪 آیا فناوری ویرایش مدل می‌تواند شخصیت قبلی را واقعاً حذف کند؟

در سال‌های اخیر حوزه‌ای به نام Model Editing شکل گرفته که هدف آن تغییر هدفمند بخش‌هایی از دانش یا رفتار مدل بدون آموزش کامل مجدد است. روش‌هایی مانند ROME، MEMIT، WISE و AlphaEdit در پژوهش‌های مختلف برای تغییر دانش یا بررسی امکان حذف انتخابی اطلاعات آزمایش شده‌اند.

این حوزه برای پرسش ما اهمیت زیادی دارد، زیرا مسئله فقط «آموزش دادن شخصیت جدید» نیست؛ مسئله این است که آیا می‌توان مسیرهای مرتبط با شخصیت قدیمی را نیز دستکاری کرد. پژوهش‌های جدید نشان داده‌اند که برخی روش‌های ویرایش می‌توانند برای Unlearning نیز به‌عنوان روش‌های پایه مورد استفاده قرار گیرند.

⚙️ مشکل اصلی: پایداری تغییر

تغییر یک مدل زمانی واقعاً ارزشمند است که در برابر پرسش‌های جدید، تغییر زمینه، آموزش مجدد و تلاش برای بازیابی رفتار قبلی پایدار بماند. اگر شخصیت حسن تنها در شرایط عادی ظاهر شود ولی با چند پرسش خاص دوباره رفتار علی بازگردد، نمی‌توان گفت هویت قبلی کاملاً حذف شده است.

از همین‌جا مفهوم «آزمون پایداری هویت» اهمیت پیدا می‌کند. یک مدل شخصی واقعی باید نه‌تنها در معرفی خودش، بلکه در تصمیم‌گیری، لحن، اولویت‌ها، حافظه و واکنش به موقعیت‌های متناقض نیز شخصیت جدید را حفظ کند.

⚠️ اگر بخواهیم هویت قبلی را ۱۰۰ درصد حذف کنیم چه می‌شود؟

از نظر علمی، عبارت «۱۰۰ درصد حذف شد» بسیار سنگین است. برای اثبات چنین ادعایی باید مجموعه‌ای بسیار گسترده از آزمون‌ها انجام شود: آزمون رفتار عادی، آزمون تحریک شخصیت قبلی، بررسی بازگشت‌پذیری، تحلیل تغییرات داخلی، آزمون پس از Fine-tuning مجدد و مقایسه قابلیت‌های غیرمرتبط.

حتی اگر مدل در هیچ آزمون رفتاری نتواند شخصیت قبلی را نشان دهد، هنوز نمی‌توان با قطعیت گفت تمام آثار آن از پارامترها حذف شده‌اند. پژوهش‌های مربوط به Unlearning دقیقاً به همین مشکل اشاره می‌کنند: مدل ممکن است در سطح خروجی فراموش‌کردن را نشان دهد، اما نشانه‌هایی از اطلاعات یا رفتار قبلی در نمایش‌های داخلی باقی مانده باشد.

از طرف دیگر، حذف شدید ممکن است هزینه‌ای نیز داشته باشد. اگر هویت قبلی با مجموعه‌ای از توانایی‌های زبانی یا دانشی درهم‌تنیده باشد، تغییرات گسترده می‌تواند روی قابلیت‌های ظاهراً نامرتبط اثر بگذارد. بنابراین هدف مهندسی معمولاً «پاک کردن مطلق» نیست؛ بلکه ایجاد رفتار جدیدی است که پایدار، قابل کنترل و قابل ارزیابی باشد.

🎯 جمع‌بندی؛ حسن می‌تواند جای علی را بگیرد، اما نه لزوماً در سطح پارامترها

اگر منظور از تغییر هویت این باشد که مدل دیگر خود را علی معرفی نکند، با حسن صحبت کند، سبک پاسخ‌گویی مشخصی داشته باشد و دانش و خاطرات جدیدی را مبنای تعامل قرار دهد، فناوری فعلی کاملاً توانایی انجام آن را دارد. Fine-tuning، Prompt Engineering، حافظه خارجی و RAG می‌توانند چنین شخصیتی را بسیار پایدار کنند.

اما اگر منظور این باشد که تمام آثار شخصیت علی از شبکه عصبی حذف شوند و هیچ روش فنی، آموزشی یا تحلیلی نتواند حتی نشانه‌ای از آن را بازیابی کند، پاسخ فعلی علم هوش مصنوعی «تضمین ۱۰۰ درصدی» نیست. تحقیقات Unlearning و Model Editing نشان می‌دهند که مرز میان تغییر رفتار، سرکوب بازیابی، و حذف واقعی اطلاعات هنوز کاملاً یکسان نیست.

بنابراین بهترین راه برای ساخت یک هوش مصنوعی شخصی این نیست که الزاماً مدل قبلی را نابود کنیم؛ بلکه باید مدلی بسازیم که شخصیت جدید در آن به‌صورت چندلایه و پایدار تعریف شود. در چنین حالتی «حسن» یک اسم روی مدل نیست؛ بلکه ترکیبی از رفتار، حافظه، دانش، قوانین و قابلیت‌هایی است که می‌توان آنها را مستقل از مدل پایه مدیریت کرد. این همان تفاوت میان تغییر نام یک مدل و ساخت یک هویت مصنوعی قابل کنترل است.