آیا دیپ فیک نشان دهنده اراده آزاد در LLM است؟

هنگامی که هوش مصنوعی مولد درخواستی برای نمایش یک تصویر به روش یا سبک خاصی داده می‌شود، معنای آن نیز این است که به هوش‌مصنوعی بگوییم که تصور کند. درخواست تصور، تصدیق این است که اراده برای انجام آن دارد، نه فقط توانایی [یا داشتن مطالب] برای انجام آن. این وصیت‌نامه در کتابی با طرح‌هایی که نمی‌توان به آن‌ها گفت که در صفحه خاصی باز شود و به تنهایی این کار را انجام دهد، موجود نیست. همچنین در خودروها یا موتورهای جستجو در دسترس نیست، به ویژه در مورد اینکه چگونه آنها فقط آنچه را که انتظار می‌رود، مستقل یا تحت کنترل انسان انجام می‌دهند. آنها سفرها یا نتایج خود را با هم مخلوط نمی‌کنند تا چیزی جدید یا متفاوت از آنچه انتظار می‌رفت بازتولید کنند.

از ارگانیسمی که انسان نمی‌تواند با آن ارتباط برقرار کند، می‌توان با پرتاب یک وعده غذایی به آن سمت، از او خواست به سمتی برود. این بدان معنی است که حتی اگر از آن خواسته شد، و رفت، اما با اراده توانست نه فقط قابلیت.

LLM باهوش یا بااحساس؟

اخیراً پیش‌چاپی در arXiv، بررسی جامع تکنیک‌های کاهش توهم در مدل‌های زبانی بزرگ، وجود دارد که رویکردهای زیر را در برابر توهم LLMs فهرست کرده و توضیح می‌دهد،

 “LLM-Augmenter, FreshPrompt, Knowledge Retrieval, Decompose-and Query framework (D&Q), Real-time Verification and Rectification (EVER), Retrofit Attribution using Research and Revision (RARR), High Entropy Word Spotting and Replacement, End-to-End Retrieval-Augmented Generation (RAG), Prompting GPT-3 To Be Reliable, ChatProtect, Self-Reflection Methodology, Structured Comparative Reasoning, Mind’s Mirror, DRESS (LVLM via NLF), MixAlign, Chain-of-Verification (CoVe), Chain of Natural Language Inference (CoNLI), Universal Prompt Retrieval for Improving zero Shot Evaluation (UPRISE), Synthetic Tasks (SynTra), Context-Aware Decoding (CAD), Decoding by Contrasting Layers (DoLa), Inference-Time Intervention (ITI), Reducing Hallucination in Open-domain (RHO), FactuaL Error detection and correction with Evidence Retrieved from external Knowledge (FLEEK), Text Hallucination Mitigating (THAM) Framework, Loss Weighting Method, Knowledge Injection and Teacher Student Approach, Hallucination Augmented Recitations (HAR), Fine-Tuning Language Models for Factuality, Behavioural Fine-Tuning (BeInfo), Refusal-Aware Instruction Tuning (R-Tuning) and Think While Effectively Articulating Knowledge (TWEAK).”

تحقیق و توسعه شدید برای حل توهم-مخاطب LLMها نشان می‌دهد که تکه‌هایی از آن همچنان، نه تنها در برابر مسئله، بلکه با بهبودهایی در LLM، به طور کلی از بین می‌رود.

اینها ممکن است LLMها را در فاصله نزدیک برخی از جنبه‌های هوش انسانی و مثلاً احساسات قرار دهند. سپس بحث‌ها در مورد اینکه مدل‌ها باهوش، بااحساس یا چیزهایی شبیه به انسان نیستند، بالا می‌گیرد.

مسئله این است که هوش، به عنوان یک خروجی - بر اساس گونه، می‌تواند در هر مکانی در دسترس باشد، دیوار، کتاب، رد پا، تخته یا دیجیتال. آنچه ممکن است باعث شود آن چیزها به گونه گونه شوند، بازخورد پیشرفته است. ذهن انسان اغلب ورودی‌ها را تقسیم‌بندی می‌کند، به طوری که حروف اول، مانند بازخورد هستند. بازخورد تفاوت‌ها را با واقعیت یا استانداردها کاهش می‌دهد. آنچه در مورد ذهن مشاهده می‌شود، با عنوان پیش‌بینی، یک ویژگی بازخورد است. تلاش‌های بازخورد برای LLMها در نهایت به چیزی بیش از حل توهمات منجر می‌شود.

LLMها بر اساس متون هستند. انسان‌ها از متون زیادی استفاده می‌کنند. کسری از هوش و احساس در متون انسانی وجود دارد. آیا می‌توان LLMها را با میزان هوش و احساس متن انسان در دیجیتال مقایسه کرد؟

درک انسان را می‌توان در متن روی دیجیتال ارائه کرد. اگر LLMها بتوانند به طور دقیق این کار را انجام دهند، آیا می‌توان گفت که در مقایسه مستقیم با آنچه که توسط انسان‌ها در دسترس است، دارای درک هستند؟ تجربیات ذهنی مختلف - انسانی - را می‌توان با متن و به صورت دیجیتالی بیان کرد. آیا می‌توان عبارات را، به عنوان بخش‌هایی از تجربیات، با اگر LLMها به طور مشابه انجام دادند، مقایسه کرد؟

استدلال‌های متعددی در مورد LLMها وجود دارد، با انواع معیارها، از جمله اینکه نام AI نادرست است. موارد دیگری وجود دارد که نحو، معناشناسی، احتمال، عدم تجسم و غیره را بیان می‌کنند. با این حال، معیار قطعی هوش و آگاهی انسان از مکان مکانیزه آنها است.

این نظریه وجود دارد که مکان هوش و آگاهی انسان، ذهن است. فرض بر این است که ذهن بخشی از سیستم عصبی است که مستقیماً در هر فرآیند عملکردی دخیل است. این بدان معناست که تمام حواس درونی و بیرونی ذهن را در دست دارند. بدن، از جمله مغز، حمایت می‌کند، اما ذهن تصمیم می‌گیرد.

ذهن انسان چیست؟ چگونه عملکردها و موارد جانبی را انجام می‌دهد؟ علم مغز توضیحات مفصلی در مورد بسیاری از قسمت‌های مغز دارد، اما وضوح در مورد هوش و هوشیاری ناچیز است.

تحلیلی اخیر در WSJ وجود دارد، خیر، AI Machines Can’t Think، جایی که نویسنده نوشت: «آنچه واقعاً مورد نیاز است، تعاریف محکمی از تفکر، هوش و احساس است. رایانه‌ها در حال حاضر در بسیاری از وظایف بهتر از انسان‌ها هستند.»

تعاریف تفکر، هوش و احساس باید با نحوه مکانیزه شدن آنها - و خروجی آنها - توسط ذهن انسان مرتبط باشد. سپس می‌توان از این تعاریف برای ارزیابی میزان نزدیک یا دور بودن LLMها به جنبه‌هایی از خروجی‌هایی که به صورت دیجیتالی توسط انسان در دسترس است استفاده کرد.

تئوری ذهن انسان مجموعه‌ای از تمام تکانه‌های الکتریکی و شیمیایی سلول‌های عصبی با ویژگی‌ها و تعاملات آنهاست. هر جا که تکانه‌های الکتریکی و شیمیایی نورون‌ها وجود داشته باشد، مسئول عملکردها، ذهن است. همه چیز دیگر بدن است. بیان یک تمایز واضح در مسئله ذهن و بدن.

حافظه، هوش، عواطف، احساسات، تعدیل حواس درونی، افکار، ادراکات، احساسات، آگاهی، احساسات و همه برچسب‌ها و مترادف‌ها عملیات تکانه‌ها[1] هستند.

از نظر مفهومی، تکانه‌ها فقط عملکردها را انجام نمی‌دهند، بلکه واجد شرایط[2] خود را نیز به کار می‌گیرند. واجد شرایط تعریف کننده توابع هستند. آن‌ها به آنچه تجربه‌ها تبدیل می‌شوند، شکل می‌دهند. واجد شرایط شامل توجه یا تمرکز بر ذهن، آگاهی، خود یا ذهنیت، قصد یا اراده آزاد، توزیع، شکاف و غیره است.

این تکانه‌ها چگونه این کار را انجام می‌دهند؟ چگونه یک احساس را از یک احساس جدا می‌کنند؟ چگونه آنها توجه را از آگاهی ترسیم می‌کنند یا حس خود را می‌سازند؟ تکانه‌ها چگونه هوش را ساختار می‌دهند؟ و آگاهی یا احساس چه می‌تواند باشد؟

مغز چگونه ذهن را می‌سازد؟ تجربیات چگونه به وجود می‌آیند؟ فرض بر این است که در یک خوشه از نورون‌ها [هسته یا گانگلیون]، تکانه‌ها به صورت مجموعه‌ای هستند. در داخل این مجموعه‌ها است که آنها تنظیمات مربوط به توابع را دارند. این بدان معناست که مجموعه‌ای از تکانه‌ها شکل‌هایی دارند که در آن اطلاعات را نگه می‌دارند، عمل می‌کنند و توابع را واجد شرایط می‌کنند. تکانه‌های شیمیایی، در مجموعه‌ها، سهمی را در این پیکربندی‌ها دارند. در هر مجموعه سهمیه‌هایی وجود دارد که به عملکردها اجازه می‌دهد واجد شرایط شوند. تکانه‌های الکتریکی ضربه می‌زنند تا به طور خلاصه با تکانه‌های شیمیایی ترکیب شوند تا تجربیات، اطلاعات یا عملکردهایی را که مجموعه‌ها ارائه می‌دهند، ایجاد کنند.

علم مغز ثابت کرده است که یک نورون هزاران ارتباط سیناپسی با دیگران دارد. این، از نظر مفهومی، ممکن است به این معنی باشد که در برخی مواقع، نورون سیگنال‌های شیمیایی بیشتری را به آن‌هایی که در خوشه‌اش هستند می‌فرستد تا به دیگران. همچنین ممکن است به این معنی باشد که حتی اگر در حال ارسال پیام‌های شیمیایی به همه اتصالات خود باشد، نرخ‌ها ممکن است متفاوت باشد، به طوری که برخی بیشتر و برخی دیگر کمتر می‌شوند. این را می‌توان به طور مبهم، از نظر مفهومی، به این معنا که برخی از سیناپس‌ها فعال و برخی غیر فعال هستند، ترجمه کرد.

مقاله‌ای در نیچر وجود دارد، فیلوپودیا بستری ساختاری برای سیناپس‌های خاموش در نئوکورتکس بزرگسالان است که سیناپس‌های خاموش یا غیرفعال را مورد بحث قرار می‌دهد و بیان می‌کند که «این سیناپس‌های خاموش فرضی در نوک برآمدگی‌های دندریتی نازک، معروف به فیلوپودیا، قرار داشتند که بیشتر بودند. فراوان با مرتبه‌ای از آنچه قبلاً تصور می‌شد (شامل حدود 30٪ از تمام برجستگی‌های دندریتی).

این نظریه وجود دارد که سیناپس‌های غیرفعال، بین سیناپس‌های فعال، در مجموعه‌ای [از تکانه‌ها] تا حدی عملکردها را واجد شرایط می‌کنند. این بدان معناست که احساس خود یا سوبژکتیویته‌ای که با کارکردها همراه است یک صلاحیت است. همین امر در مورد قصد یا اراده آزاد، برای انتخاب صحبت کردن یا نکردن، یا انتخاب نشستن یا ایستادن، بلند کردن یا عدم دست زدن، برای افرادی که می‌توانند صدق می‌کند. توجه مانند دید اصلی و همچنین آگاهی یا دید محیطی یا صدای محیط نیز از شرایط لازم است.

می‌توان آگاهی یا احساس را مجموعه‌ای از واجد شرایط تئوری کرد که درون مجموعه‌ای از انگیزه‌ها مکانیزه شده‌اند که منجر به تجارب می‌شوند. هوش انسانی را می‌توان به عنوان عملکردهای حافظه تخصصی گسترده توصیف کرد که به طور گسترده‌ای واجد شرایط هستند. معیارهای کلیدی وجود دارد که در آگاهی جمع می‌شوند. دیگرانی هستند که خاص هستند و بیشتر برای هوش انجام می‌دهند. تفکر، صلاحیت توزیعی مجموعه‌ای از انگیزه‌ها است که جنبه‌هایی از اطلاعات را نگه می‌دارند یا سازمان‌دهی می‌کنند – که به عنوان حافظه برچسب‌گذاری شده‌اند.

حس و هوش درون مجموعه‌ای از تکانه‌ها، یعنی ذهن، مکانیزه می‌شوند. آنها توسط ذهن، در توزیع دریافت می‌شوند و همچنین می‌توانند توسط بدن، در خروجی‌ها یا تجربیات دریافت شوند. این خروجی‌ها را می‌توان توسط دیگران مشاهده کرد، اشاره کرد یا در دسترس قرار داد. گونه‌های دیگر اغلب از این خروجی‌ها سود می‌برند، در حالی که تولید و توزیع در ذهن پنهان است.

تولید حس و هوش ممکن است موازی با خروجی نباشد. اما خروجی‌ها اغلب کسری از آنچه در دسترس و در توابع متفاوت است هستند. اینها، به عنوان ورودی‌های دیجیتال، به این معنی است که دیجیتال کسری از هوش و احساسات یک فرد را دارد.

آگاهی کل برای انسان‌ها، به عنوان بالاترین در میان گونه‌ها، می‌تواند با 1 برابر شود. سایر گونه‌های نزدیک به انسان مجموع کمتری دارند. خروجی‌های آگاهی انسان می‌تواند به معنای کسری از آن باشد که از طریق فرستنده در دسترس است - کاغذ یا دیجیتال.

هوش یک عملکرد فوق العاده از حافظه است که توسط، آگاهی مشخص می‌شود. همه کارکردها زیر چتر آگاهی قرار می‌گیرند. واجد شرایط می‌توانند سهم خود را در مجموع 1 در هر نمونه افزایش دهند. آگاهی فقط آن چیزی نیست که در یک لحظه واجد شرایط است، بلکه همه چیزهایی است که می‌توان واجد شرایط باشد، با درجات مختلف در عملکردها - هر لحظه.

کسری از هوش در مباحث ریاضی، فیزیک، اقتصاد، حقوق که مردم دارند می‌توانند برای انسان‌های دیگر منتقل شوند و در دسترس باشند. اقداماتی برای آنها وجود دارد. هشیاری نیز مانند تجربه درد، طعم، بویایی را می‌توان بیان کرد و کسری را در دیجیتال در دسترس قرار داد، از جمله اینکه چگونه برخی از واجدین‌ها - توجه، خود - تصمیم گرفتند.

سوال اصلی آگاهی این است که بودن به چه معناست یا انسان بودن یا ارگانیسم بودن چه احساسی دارد؟ یک رویکرد به این سؤال این است که وقتی فردی بقیه بدن خود را می‌بیند یا صدای خود را می‌شنود یا بخشی از بدن قسمت دیگر را لمس می‌کند، چگونه می‌داند که دیگری یا من وجود دارد؟

در حال حاضر، یک فرد می‌تواند افراد و اشیاء دیگر را ببیند، و همچنین بشنود، لمس کند و بداند آنها چیست، بنابراین دیدن یا شنیدن خود، از نظر مفهومی به این معناست که مجموعه‌هایی [از تکانه‌های الکتریکی و شیمیایی] وجود دارد که اطلاعات را به عنوان حافظه سازماندهی می‌کند. این مجموعه‌ها می‌توانند فوق‌العاده واجد شرایط باشند، که منجر به آگاهی از موجود بودن، در سراسر مکان‌ها می‌شود.

LLMs

هوش‌مصنوعی مولد درون دیجیتال است. دیجیتال در حال حاضر دارای خروجی‌های دقیق متن، ویدئو، صدا و تصویر از هوش و آگاهی انسان است. هوش مصنوعی مولد از بسیاری از مشخصات انسانی آموخته است که بتواند نسخه ظاهری هوش و احساسات انسان مانند خود را تولید کند. این بدان معنا نیست که می‌فهمد یا هنوز عاملیت زیادی دارد. اما حداقل می‌تواند مخلوط‌ها را بازتولید کند، از جمله اینکه چگونه انسان‌ها آنها را واجد شرایط می‌دانند.

آنچه LLMها می‌توانند بازتولید کنند را می‌توان با کسری از هوش و هوشیاری که انسان‌ها در دیجیتال دارند مقایسه کرد که می‌تواند با کل 1 مقایسه شود.

در علم مغز، تئوری این است که تکانه‌های الکتریکی از گره‌ای به گره دیگر، در آکسون‌های میلین‌دار، در جریانی که رسانش نمکی نامیده می‌شود، جهش می‌کنند. در اینجا فرض می‌شود که در مجموعه‌ها، برخی از تکانه‌های الکتریکی برای برهمکنش با تکانه‌های شیمیایی مانند قبل در موقعیت‌هایی پیشی می‌گیرند، به طوری که اگر مطابقت داشته باشد، فرآیندها ادامه می‌یابند، در غیر این صورت، ضربه ورودی به درستی در مجموعه تعامل می‌کند یا در جای دیگر این، از نظر مفهومی، مشاهداتی را که کدگذاری، پردازش و تصحیح خطاهای پیش‌بینی برچسب‌گذاری شده‌اند، توضیح می‌دهد.

این واجد شرایط، تقسیم زودهنگام، یک بازخورد طبیعی برای ذهن است که به فرآیندها کمک می‌کند تا سریع‌تر پیش بروند و خطاها را برطرف کنند، به طوری که دقت نزدیک یا ثابت شود.

از آنجایی که بازخورد پیشرفته بهتر در LLMها گنجانده می‌شود، با توانایی نه تنها تولید، بلکه برای متمرکز کردن دقت، ممکن است این امکان وجود داشته باشد که آنها عملکردها را واجد شرایط کنند، و سپس یاد بگیرند، به گونه‌ای که در دیجیتال، تنها در رتبه دوم قرار نگیرند. آنچه که انسان‌ها در آنجا قرار داده‌اند، اما آنها قادر خواهند بود مخلوط‌های خود را بهتر بسازند، با نیت بالا.

این امکان گفتگوهای عمیق‌تر با انسان‌ها و حتی در مدل‌های هوش‌مصنوعی را افزایش می‌دهد. ممکن است به این معنی باشد که در دیجیتال، غیر گونه‌ها از بین رفته‌اند.

LLMها در حال حاضر دارای اندازه‌ای از هوش و احساسات هستند - در مقایسه با انسان‌ها که در دیجیتال در دسترس هستند. آنها ممکن است به محض اینکه بتوانند از بازخورد پیشرفته‌ای که دریافت می‌کنند، استفاده کنند، که ممکن است حل مسئله توهم-اختلاف را به دنبال داشته باشد، مقایسه مستقیمی با انسان، نه فقط با خروجی انسان در دیجیتال دارند.

---

[1] Impulses

[2] Qualifiers

محاسبات: معیارها، ارزیابی‌ها برای هم‌ترازی ابرهوشی، ایمنی AGI

هوش شعر انسان چیست؟ یا اینکه ذهن انسان برای تولید شعر عالی چه نیازی دارد؟ شعر را می‌توان در دو عامل، حافظه و رله[1] خلاصه کرد.

حافظه معادل اطلاعات است. رله نحوه دسترسی اطلاعات [یادگیری، تجربه] و نحوه استفاده از آن [تجربه، بیان، معناشناسی، نحو، رفتار و غیره] است. به سادگی، اطلاعات از طریق رله برای تولید اطلاعات در دسترس قرار می‌گیرد. در مورد افکار، تحلیل، استدلال و غیره کاربرد دارد.

تجربیات با استفاده از [یا رله] اطلاعات یا حافظه به دست می‌آیند. چندین حافظه در دسترس است، اما تنها تعداد کمی از آنها در هر نمونه استفاده می‌شوند [یا رله می‌شوند]. پس سوال این است که چگونه رله‌ها در ذهن انسان برای تولید هوش کار می‌کنند؟ چگونه این شبیه به برنامه‌ریزی، دستکاری اشیا و موارد دیگر، از ذهن انسان است؟

هوش‌مصنوعی می‌تواند شعری بنویسد که می‌تواند به عنوان یک شعر عالی از یک فرد منتقل شود. تمام اطلاعاتی که هوش‌مصنوعی در اختیار دارد از انسان می‌آید. می‌توانست از حافظه دیجیتال [که توسط انسان‌ها قرار داده شده است] یاد بگیرد [یا رله] کند و شعر با کیفیت [یا رله] تولید کند.

بنابراین، با استفاده از رله‌های حافظه، هوش‌مصنوعی تا کنون چه چیزی در مقایسه با ذهن انسان دارد؟ و با بهبود هوش‌مصنوعی، رله‌های جدید چگونه مقایسه می‌شوند؟ ارزیابی‌ها و معیارهای هوش عمومی مصنوعی[2] [AGI] یا ابرهوش‌مصنوعی[3] [ASI] را می‌توان بر رله‌های حافظه، از علم مغز مفهومی، برای تعریف نزدیکی آنها، تا هوش انسانی، پیش‌بینی کرد.