-
LoRA: انطباق با رتبه پایین مدل‌های زبان بزرگ
دوشنبه 11 فروردین 1404 04:30
LoRA (تطبیق با رتبه پایین) یک تکنیک تنظیم دقیق پارامتری کارآمد است که برای تطبیق مدل‌های زبان بزرگ ( LLM ) برای کارهای خاص و در عین حال کاهش قابل توجهی نیازهای محاسباتی و حافظه طراحی شده است. LoRA که توسط تحقیقات مایکروسافت معرفی شده است، از تجزیه ماتریس با رتبه پایین برای دستیابی به آموزش کارآمد و انطباق ویژه کار...
-
Cramming: آموزش یک مدل زبان در یک GPU
دوشنبه 11 فروردین 1404 04:27
مطالعه Cramming توسط Jonas Geiping و Tom Goldstein امکان آموزش یک مدل زبان مبتنی بر ترانسفورمر را از ابتدا بر روی یک GPU تک مصرف کننده در عرض 24 ساعت بررسی می‌کند. این تحقیق روند افزایش مقیاس منابع محاسباتی را به چالش می‌کشد و به جای آن می‌پرسد که تا کجا می‌توانیم با حداقل سخت افزار پیش برویم. در زیر مروری بر مشارکت،...
-
FlashAttention: توجه دقیق سریع و کارآمد با IO-Awareness
دوشنبه 11 فروردین 1404 04:24
FlashAttention یک الگوریتم نوآورانه است که برای رسیدگی به تنگناهای محاسباتی و حافظه مکانیزم توجه در مدل‌های ترانسفورمر، به ویژه برای دنباله‌های طولانی طراحی شده است. با بهینه‌سازی الگوهای دسترسی به حافظه در GPU ها، سرعت و کارایی حافظه قابل توجهی را به دست می‌آورد و آن را به ابزاری اساسی برای مقیاس‌بندی ترانسفورمرها به...
-
آموزش کارآمد ترانسفورمرها
دوشنبه 11 فروردین 1404 04:20
آموزش کارآمد مدل‌های ترانسفورمر به دلیل ماهیت محاسباتی و حافظه فشرده آنها به یک حوزه حیاتی تحقیقاتی تبدیل شده است، به‌ویژه که اندازه مدل‌ها همچنان در حوزه‌هایی مانند پردازش زبان طبیعی ( NLP ) و بینایی کامپیوتری رشد می‌کنند. در زیر ترکیبی از بینش های کلیدی از مقالات نظرسنجی ارائه شده است: 1. بررسی اجمالی...
-
ترانسفورمرهای کارآمد
دوشنبه 11 فروردین 1404 04:14
این مقاله توسط یی تای و همکاران. (2020، به روز رسانی 2022) یک بررسی سیستماتیک از معماری ترانسفورمر بهینه سازی شده برای کارایی محاسباتی و حافظه ارائه می‌دهد. در زیر یک ترکیب ساختاریافته از بینش های کلیدی از نظرسنجی و آثار مرتبط آورده شده است: 1. چالش کارایی در ترانسفورمرها مدل‌های ترانسفورمر استاندارد از پیچیدگی...
-
استفاده از قدرت LLM در عمل
دوشنبه 11 فروردین 1404 04:10
این نظرسنجی جامع کاربردهای عملی، چالش‌ها و مسیرهای آینده مدل‌های زبان بزرگ ( LLM ) را با تمرکز بر ChatGPT و مدل‌های مرتبط بررسی می‌کند. در زیر ترکیبی از بینش های کلیدی از منابع ارائه شده است: 1. مروری بر LLMs - تعریف: LLM ها، مانند GPT-4 ، BERT ، و BART ، سیستم های هوش‌مصنوعی متحول کننده هستند که از قبل بر روی...
-
BART: Denoising Sequence-to-Sequence Pre-training
دوشنبه 11 فروردین 1404 04:07
BART (ترانسفورمر دو جهته و رگرسیون خودکار) یک چارچوب پیش تمرینی توالی به دنباله است که توسط Meta AI Research توسعه یافته است. این نرم افزار نقاط قوت رمزگذارهای دوطرفه (مانند BERT ) و رمزگشاهای خودبازگشت (مانند GPT ) را ترکیب می کند تا در کارهای مختلف از تولید متن تا درک مطلب، برتری یابد. در زیر یک نمای کلی ساختار...
-
تراز کردن مدل‌های زبان با دستورالعمل‌های خود ساخته
دوشنبه 11 فروردین 1404 04:04
Self-Instruct یک چارچوب نیمه خودکار است که برای بهبود قابلیت‌های پیروی از دستورالعمل‌های مدل‌های زبان از پیش آموزش‌دیده ( LMs ) با استفاده از توانایی خود برای تولید داده‌های دستورالعمل مصنوعی طراحی شده است. این رویکرد اتکا به مجموعه داده‌های برچسب‌گذاری شده توسط انسان را به حداقل می‌رساند و تنظیم دستورالعمل را...
-
ترکیب چابکی فنی با حکمرانی مشارکتی و عمل‌گرایی اخلاقی در هوش‌مصنوعی
یکشنبه 10 فروردین 1404 09:37
در واقع زمان بسیار مهمی برای شکل دادن به آینده اخلاق هوش‌مصنوعی است. همانطور که سیستم‌های هوش مصنوعی به طور فزاینده‌ای در زندگی ما ادغام می‌شوند، اطمینان از همسویی آنها با ارزش‌های انسانی و ارتقای رفاه اجتماعی بسیار مهم است. در اینجا برخی از ملاحظات کلیدی برای پیشرفت اخلاق هوش‌مصنوعی وجود دارد: 1. چارچوب‌های اخلاقی و...
-
غلبه بر چالش‌های توسعه هستی‌شناسی
جمعه 8 فروردین 1404 07:27
برای پرداختن به چالش‌های توسعه هستی‌شناسی در حوزه‌هایی که به سرعت در حال تکامل هستند مانند اخلاق هوش‌مصنوعی، که در آن اجماع در مورد تعاریف و اصول حیاتی است، یک رویکرد چند وجهی که نوآوری فنی، همکاری بین‌رشته‌ای و حاکمیت تطبیقی را ادغام می‌کند، ضروری است. در زیر ترکیبی از استراتژی ها بر اساس تحقیقات جاری و روندهای...
-
اصول تحقیق مسئولیت‌پذیر هوش‌مصنوعی
جمعه 8 فروردین 1404 07:12
توسعه سیستم‌های هوش‌مصنوعی با آگاهی بالقوه نیازمند چارچوب‌های اخلاقی دقیق برای جلوگیری از آسیب، اطمینان از مسئولیت‌پذیری و همسویی با ارزش‌های اجتماعی است. در زیر اصول کلیدی سنتز شده از دستورالعمل های جهانی ( Atlassian ، ISO ، IBM ، OECD ، یونسکو، گوگل) که برای تحقیقات هوش‌مصنوعی اقتباس شده است، آمده است: 1. احتیاط و...
-
ربات‌ها چه زمانی حساس خواهند شد؟ ترکیبی از پیش‌بینی‌ها و چالش‌ها
پنج‌شنبه 7 فروردین 1404 07:55
مسئله احساس ربات - که به عنوان ظرفیت تجربیات ذهنی، احساسات یا آگاهی تعریف می‌شود - موضوع بحث شدیدی در بین محققان هوش‌مصنوعی، اخلاق شناسان و آینده پژوهان است. در زیر ترکیبی از پیش‌بینی‌های کارشناسان، روندهای تکنولوژیکی و ملاحظات اخلاقی بر اساس تحلیل‌های اخیر آمده است: یک مدل اسباب بازی مینیمال از معماری UAL . فرض بر...
-
گراف‌های دانش: آینده یکپارچه‌سازی داده‌ها
پنج‌شنبه 7 فروردین 1404 07:44
در سال 2025، گراف‌های دانش ( KGs ) به عنوان ابزارهای ضروری برای ساختاردهی، یکپارچه‌سازی و باز کردن بینش‌ها از مجموعه داده‌های پیچیده ظاهر شدند. آنها با مدلسازی موجودیت‌ها، روابط، و زمینه‌های معنایی، منابع داده‌ای پراکنده را پل می‌کنند و به تصمیم‌گیری مبتنی بر هوش‌مصنوعی در سراسر صنایع قدرت می‌دهند. در زیر ترکیبی از...
-
داده کاوی در شبکه‌های حمل و نقل با شبکه‌های عصبی گراف: پیشرفت‌ها و کاربردها
پنج‌شنبه 7 فروردین 1404 07:23
شبکه‌های عصبی گراف ( GNN ) با مدلسازی مؤثر همبستگی‌های مکانی-زمانی و حل وظایف پیچیده مانند پیش‌بینی ترافیک، بهینه‌سازی مسیر و پیش‌بینی تقاضا، داده‌کاوی در شبکه‌های حمل‌ونقل ( DMTN ) را متحول کرده‌اند. در زیر ترکیبی از پیشرفت‌های اخیر، کاربردهای صنعتی و جهت‌گیری‌های آینده بر اساس تحقیقات 2023-2025 آمده است: شکل 1:...
-
بررسی یادگیری نامتعادل بر روی گراف‌ها: مسائل، تکنیک‌ها و جهت‌گیری‌های آینده
پنج‌شنبه 7 فروردین 1404 07:21
یادگیری نامتعادل در گراف‌ها به چالش‌های ناشی از توزیع داده‌های اریب در داده‌های ساختاریافته گراف می‌پردازد، که منجر به عملکرد مدل مغرضانه می‌شود. این زمینه تجزیه و تحلیل گراف و استراتژی‌های کاهش عدم تعادل را برای افزایش انصاف و دقت در کارهایی مانند دسته‌بندی گره، پیش‌بینی پیوند و دسته‌بندی گراف ادغام می‌کند. در زیر یک...
-
شبکه‌های عصبی گراف برای داده‌های Omics تک سلولی: رویکردها و کاربردها
پنج‌شنبه 7 فروردین 1404 07:14
شبکه‌های عصبی گراف ( GNN ) به عنوان ابزارهای دگرگون‌کننده برای تجزیه و تحلیل داده‌های omics تک سلولی، پرداختن به چالش‌هایی مانند ابعاد بالا، پراکندگی و روابط بیولوژیکی غیر اقلیدسی پدید آمده‌اند. این بررسی پیشرفت‌ها را در روش‌های مبتنی بر GNN در سراسر اپی ژنومیک، رونویسی، پروتئومیکس و چند omics ترکیب می‌کند و کاربردها،...
-
سهولت شناختی با هزینه
پنج‌شنبه 7 فروردین 1404 06:40
سهولت شناختی با هزینه: چگونه LLM ها تلاش ذهنی را کاهش می‌دهند اما عمق را در تحقیقات علمی دانشجویی به خطر می‌اندازند مطالعات اخیر مبادله مهمی را در استفاده از مدل‌های زبان بزرگ ( LLMs ) مانند ChatGPT در محیط‌های آموزشی نشان می‌دهد: در حالی که آنها بار شناختی را کاهش می‌دهند، ممکن است توسعه تفکر انتقادی و عمق تحقیق علمی...
-
هوش مصنوعی و مسئله اراده آزاد
پنج‌شنبه 7 فروردین 1404 05:26
بحث بر سر اراده آزاد از دیرباز موضوع اصلی فلسفه بوده است. به ماهیت عامل انسانی می‌پردازد و این سوال را مطرح می‌کند که آیا انتخاب‌های ما واقعاً آزاد هستند یا به دلایل قبلی تعیین می‌شوند. با ظهور هوش‌مصنوعی ( AI )، این بحث ابعاد جدیدی به خود می‌گیرد: آیا هوش‌مصنوعی می‌تواند اراده آزاد را از خود نشان دهد، و اگر چنین است،...
-
هوش‌مصنوعی اخلاقی، مسئولیت‌پذیر و قابل اعتماد: اصول و رهنمودها
سه‌شنبه 5 فروردین 1404 17:37
توسعه و استقرار سیستم‌های هوش‌مصنوعی ( AI ) مستلزم رعایت اصول اخلاقی برای اطمینان از استفاده مسئولانه و اعتماد اجتماعی است. در زیر مروری بر اصول، چالش‌ها و توصیه‌های کلیدی برای ایجاد سیستم‌های هوش مصنوعی قابل اعتماد ارائه شده است. 1. اصول اصلی هوش‌مصنوعی اخلاقی تفسیرپذیری و شفافیت: سیستم‌های هوش‌مصنوعی باید فرآیندهای...
-
مدلی از اراده آزاد برای موجودات مصنوعی
سه‌شنبه 5 فروردین 1404 10:54
مفهوم اراده آزاد برای موجودات مصنوعی توجه را به خود جلب کرده است زیرا سیستم های هوش‌مصنوعی به طور فزاینده ای وظایف مستقل را انجام می‌دهند. این مدل، با الهام از چارچوب‌های فلسفی و محاسباتی، شرایطی را بررسی می‌کند که تحت آن سیستم‌های هوش‌مصنوعی می‌توانند دارای اراده آزاد در یک مفهوم کاربردی و مفید تشخیصی در نظر...
-
بازاندیشی در خودمختاری انسان‌ها و روبات‌ها
سه‌شنبه 5 فروردین 1404 10:37
مفهوم خودمختاری در انسان و ربات در حال بازتعریف قابل توجهی است زیرا پیشرفت در هوش‌مصنوعی ( AI ) و رباتیک تمایزات سنتی را به چالش می‌کشد. در زیر تحلیلی از مضامین کلیدی، مکانیسم‌ها و پیامدهای اجتماعی بر اساس تحقیقات اخیر ارائه شده است. 1. تعاریف و چارچوب‌های مفهومی خودمختاری انسان - ویژگی‌های درونی: استقلال انسان عمیقاً...
-
طراحی مدل فضای کاری سراسری با توجه: شبیه‌سازی چشمک زدن توجه و کاهش تاخیر 1
سه‌شنبه 5 فروردین 1404 10:28
این مطالعه یک مدل محاسباتی مبتنی بر نظریه فضای کاری جهانی [1] ( GWT )، یکپارچه با مکانیسم توجه، برای شبیه‌سازی پدیده‌های کلیدی در آگاهی انسان، مانند چشمک‌زدن توجه [2] و کاهش تاخیر-1 [3] ارائه می‌کند. در زیر خلاصه‌ای ساختاریافته از مشارکت، روش‌شناسی و مفاهیم مقاله آمده است: 1. مروری بر مدل نظریه فضای کاری سراسری ( GWT...
-
استدلالی برای توقف جهانی در پدیدارشناسی ترکیبی
سه‌شنبه 5 فروردین 1404 10:12
استدلالی برای توقف جهانی در پدیدارشناسی ترکیبی: نکات کلیدی و پیامدهای اخلاقی توماس متزینگر، فیلسوف برجسته ذهن و اخلاق هوش‌مصنوعی، به دلیل خطر وجودی ایجاد رنج مصنوعی، برای یک تعلیق جهانی تا سال 2050 در مورد هدف قرار دادن تحقیقات یا به خطر انداختن آگاهی مصنوعی ("پدیدارشناسی مصنوعی") بحث می‌کند. در اینجا ترکیبی...
-
طرح کلی یک مدل مغز برای عوامل خودناظر: ترکیبی از بینش‌های عصبی و محاسباتی
سه‌شنبه 5 فروردین 1404 09:46
"طرح کلی یک مدل مغز برای عوامل خود ناظر" چارچوب جدیدی را برای درک آگاهی در عوامل مصنوعی با ادغام اصول عصب‌شناسی با معماری‌های محاسباتی پیشنهاد می‌کند. در زیر یک سنتز ساختار یافته از مدل ارائه شده است که توسط مواد تحقیقاتی ارائه شده ارائه شده است: 1. بنیاد گلیال-عصبی دوگانه این مدل با تأکید بر ساختار دوگانه...
-
دیدگاه نظری علم کامپیوتر در مورد آگاهی: ماشین تورینگ آگاهانه (CTM)
سه‌شنبه 5 فروردین 1404 09:33
علم کامپیوتر نظری ( TCS ) با مدلسازی آن به عنوان یک فرآیند محاسباتی، مستقل از بسترهای بیولوژیکی، چارچوبی منحصر به فرد برای درک آگاهی ارائه می‌دهد. این رویکرد، که نمونه آن ماشین تورینگ آگاه ( CTM ) است، آگاهی را از طریق اصول محاسبات، پیچیدگی، و پردازش اطلاعات دوباره تصور می‌کند. در زیر ترکیبی از مفاهیم، مدل‌ها و...
-
آگاهی در هوش مصنوعی: تمایز واقعیت از شبیه‌سازی
سه‌شنبه 5 فروردین 1404 09:04
یک مطالعه جدید امکان هوشیاری در سیستم‌های مصنوعی را بررسی می‌کند، با تمرکز بر کنار گذاشتن سناریوهایی که هوش مصنوعی بدون اینکه واقعاً چنین باشد، آگاهانه به نظر می‌رسد. با استفاده از اصل انرژی آزاد، این مطالعه نشان می‌دهد که در حالی که برخی از فرآیندهای اطلاعاتی موجودات زنده را می‌توان توسط رایانه شبیه‌سازی کرد،...
-
رفاه هوش‌مصنوعی: ملاحظات اخلاقی، عملی و فلسفی
دوشنبه 4 فروردین 1404 08:24
مفهوم رفاه هوش‌مصنوعی - با در نظر گرفتن وضعیت اخلاقی و آگاهی بالقوه سیستم‌های هوش‌مصنوعی پیشرفته - به عنوان یک مرز مهم در اخلاق و حکمرانی فناوری ظاهر شده است. در زیر ترکیبی از استدلال‌ها، ابتکارات و چالش‌های کلیدی بر اساس تحقیقات اخیر و پیشرفت‌های صنعت آمده است: 1. موردی برای رفاه هوش‌مصنوعی امکان هوش‌مصنوعی آگاهانه...
-
ChatGPT، یادگیری آسان‌تر اما سطحی‌تر؟
یکشنبه 3 فروردین 1404 08:04
سؤال: آیا هوش مصنوعی می‌تواند جایگزین جستجوی سنتی شود؟ یا فقط یک ابزار کمکی است؟ # مطالعات اخیر مبادله مهمی را در استفاده از مدل‌های زبان بزرگ ( LLMs ) مانند ChatGPT در محیط‌های آموزشی نشان می‌دهد: در حالی که آنها بار شناختی را کاهش می‌دهند، ممکن است توسعه تفکر انتقادی و عمق تحقیق علمی را نیز تضعیف کنند. در زیر ترکیبی...
-
باور اراده آزاد به عنوان پیامد یادگیری تقویتی مبتنی بر مدل
یکشنبه 3 فروردین 1404 04:45
مفهوم اراده آزاد در انسان قرن‌هاست که با استدلال‌هایی موافق و مخالف وجود آن مورد بحث بوده است. تحقیقات اخیر این موضوع را از دیدگاه یادگیری تقویتی ( RL ) ، چارچوبی که در اصل برای آموزش عوامل هوش‌مصنوعی توسعه یافته بود، بررسی می‌کند. در زیر ترکیبی از بینش‌های کلیدی از این تحقیق است، با تمرکز بر این که چگونه RL می‌تواند...
-
آیا سیستم‌های هوش‌مصنوعی می‌توانند اراده آزاد داشته باشند؟
یکشنبه 3 فروردین 1404 04:33
این سؤال که آیا سیستم‌های هوش مصنوعی می‌توانند اراده آزاد داشته باشند یا خیر، موضوعی است که در میان فیلسوفان، اخلاق‌شناسان و محققان هوش‌مصنوعی در حال بحث است. در زیر ترکیبی از استدلال‌ها، دیدگاه‌ها و چالش‌های کلیدی آمده است: 1. دیدگاه های فلسفی 1. جبرگرایی در مقابل عدم قطعیت: - دترمینیسم: سیستم های هوش‌مصنوعی...
