فیوتاک: فصل دوم اپیزود هشتم

آینده زیرساخت هوش مصنوعی

گفتگوی دکتر مهدی محمدی، رئیس انجمن مدیریت فناوری و نوآوری ایران با مهندس مهدی محمدی نیک، مدیرعامل هلدینگ دانش‌بنیان گرین‌وب، درباره آینده زیرساخت هوش مصنوعی در ایران

تصویری از گفتگوی دکتر محمدی با دکتر مهدی نیک

معرفی

در این اپیزود از سلسه گفتگوهایی درباره‌ی هوش مصنوعی و آینده، دکتر مهدی محمدی، رئیس انجمن مدیریت فناوری و نوآوری ایران با مهندس مهدی محمدی نیک، مدیرعامل هلدینگ گریب‌وب، درباره تأمین ظرفیت‌های پردازشی و هوش مصنوعی صحبت کرده‌اند. آنچه در ادامه آمده، خلاصه‌ای از این گفتگو است. 

این گفتگو نشان داد که ایران با چالش‌های مهمی در زمینه تأمین ظرفیت‌های پردازشی برای هوش مصنوعی روبروست، اما با برنامه‌ریزی دقیق و همکاری بین بخش‌های مختلف، می‌توان بر این چالش‌ها غلبه کرد و به پیشرفت‌های قابل توجهی در این حوزه دست یافت.

این گفتگو با حمایت ویژه دبیرخانه برنامه ملی آینده نگاری علم و فناوری ایران و همچنین صندوق پژوهش فناوری غیر دولتی فناوری‌های نوظهور دیجیتال و همچنین اهورا؛ اولین اپراتور هوش مصنوعی راهبردی ایران و همراهی مجموعه ویکست و انجمن مدیریت فناوری و نوآوری ایران و با تهیه‌کنندگی صابر خسروی تهیه و تولید شده است

ویدئو
پادکست
متن گفتگو

دکتر محمدی (مجری): سلام، مهدی محمدی هستم از پلتفرم فیوچراو. امروز در خدمت آقای محمدی نیک، مدیرعامل شرکت گرین وب هستیم. قصد داریم درباره آینده هوش مصنوعی، به ویژه در حوزه زیرساخت، گفتگو کنیم. آقای محمدی نیک، لطفاً بفرمایید چه عواملی باعث شد با سابقه‌ای که در خدمات کلود و دیتاسنتر داشتید، تصمیم به ورود به حوزه هوش مصنوعی بگیرید؟

دکتر محمدی نیک: سپاسگزارم از دعوت شما. من مهدی محمدی نیک، مدیرعامل هلدینگ دانش‌بنیان گرین وب هستم. شرکت ما در سال 1379 به عنوان یک شرکت زایشی از یک مجموعه سخت‌افزاری تأسیس شد و طی کمتر از یک دهه توانست رشد چشمگیری داشته باشد. ما از همان ابتدا با مفهوم شرکت‌های زایشی و شتاب‌دهی آشنا بودیم، هرچند در آن زمان این اصطلاحات رایج نبودند.

با شکل‌گیری اکوسیستم استارتاپی در ایران از سال 1390 به بعد، ما توانستیم از تجربیات خود در زمینه رشد شرکت‌های نوپا استفاده کنیم و نقش فعالی در این اکوسیستم ایفا نماییم. این شامل برگزاری رویدادهای استارت‌آپی، تأسیس شتاب‌دهنده سازمانی و ورود به حوزه سرمایه‌گذاری خطرپذیر بود.

تنوع فعالیت‌های ما و نحوه شکل‌گیری شرکت، به ما کمک کرد تا شناخت خوبی نسبت به بازار فناوری اطلاعات در ایران پیدا کنیم. ما خدمات متنوعی ارائه دادیم که اساس آنها بر تولید نرم‌افزار و ارائه خدمات ابری استوار بود. در حال حاضر، تقریباً از هر پنج وب‌سایت فعال در ایران، سه مورد به طور مستقیم یا غیرمستقیم از خدمات هلدینگ ما استفاده می‌کنند.

دکتر محمدی (مجری): بسیار عالی. حال که به بحث بین‌المللی اشاره کردید، به نظر می‌رسد در چند سال اخیر، شتاب قابل توجهی در توسعه زیرساخت‌های پردازشی حوزه هوش مصنوعی در سطح جهانی شکل گرفته است. این روند هم در لایه سخت‌افزار و هم در لایه خدمات ابری مشهود است. به نظر می‌رسد که در حال حاضر، شرکت‌های بزرگ آمریکایی مانند NVIDIA، AMD و تا حدودی Intel، بازار را در انحصار خود گرفته‌اند. نسبت قیمت به عملکرد به طور نمایی در حال بهبود است، با افزایش عملکرد و کاهش نسبی قیمت‌ها. این به نظر می‌رسد یک بازی انحصارگرایانه از سوی بازیگران آمریکایی است. تا سال 2026 نیز هیچ پیش‌بینی از ظهور یک رقیب خارج از مرزهای آمریکا، حتی از سوی چین، وجود ندارد. 

در حوزه خدمات پردازشی، شاهد روند رو به رشدی هستیم که توسط ارائه‌دهندگان بزرگ سرویس‌های ابری مانند آمازون AWS، مایکروسافت Azure و سایر شرکت‌های معتبر در این زمینه ارائه می‌شود. با توجه به این شرایط، آیا به نظر شما ورود به عرصه زیرساخت‌های پردازشی، به‌ویژه در کشوری مانند ایران، امکان‌پذیر است؟ با توجه به سرمایه‌گذاری‌هایی که انجام داده‌اید، چشم‌انداز شما برای این حوزه به عنوان یک کسب‌وکار چیست؟

دکتر محمدی نیک: اجازه دهید نگاهی به وضعیت بازار در اروپا و مقایسه آن با آمریکا داشته باشیم و سیاست‌های دولت‌های اروپایی را در این زمینه بررسی کنیم. به نظر می‌رسد که دولت‌های اروپایی در مقطعی، توجه کافی به زیرساخت‌های ابری و بعداً زیرساخت‌های هوش مصنوعی نداشتند. حتی در مورد زیرساخت‌های ابری نیز توجه کافی صورت نگرفت و شرکت‌های بزرگ آمریکایی مانند آمازون، IBM و مایکروسافت از این فرصت به خوبی بهره بردند.

علاوه بر این، فرصتی که سازمان تجارت جهانی در اختیار این شرکت‌ها قرار داد، امکان فعالیت آسان در کشورهای اروپایی را برایشان فراهم کرد. در نتیجه، شرکت‌های آمریکایی توانستند در اکثر پایتخت‌های کشورهای اروپایی، مراکز داده قدرتمند با توان پردازشی بالا، هم در حوزه پردازش‌های HPC و هم در زمینه GPU راه‌اندازی کنند.

زمانی که اروپایی‌ها متوجه شدند که بازار در انحصار شرکت‌های آمریکایی قرار گرفته و سازمان تجارت جهانی اجازه ارائه خدمات با قیمت‌های ترجیحی را به آنها نمی‌دهد، به دنبال راهکارهایی برآمدند. بهترین راهکاری که به نظرشان رسید، توجه به حریم خصوصی و شخصی بود که منجر به تصویب قانون GDPR در اروپا شد. طبق این قانون، تمام داده‌های اروپا باید در اروپا پردازش شوند و هیچ شخصی خارج از اروپا بدون اجازه صاحب داده نباید به اطلاعات دسترسی داشته باشد.

این اقدام اروپا فرصتی را برای مراکز داده اروپایی فراهم کرد تا بتوانند با مراکز داده آمریکایی رقابت کنند. در پاسخ به این اقدام، آمریکا استراتژی خود را تغییر داد و از تمرکز بر پایتخت‌ها به گسترش مراکز داده در تمام شهرهای بزرگ اروپا روی آورد. امروزه تقریباً هیچ منطقه‌ای در اروپا نیست که یک مرکز داده آمریکایی در آن حضور نداشته باشد. آنها همچنین کارمندان محلی استخدام کرده و مکانیزم‌هایی را برای دور زدن GDPR ایجاد کرده‌اند تا همچنان دسترسی خود را حفظ کنند.

اروپا در مقابل، دو مرکز داده معروف به نام OVH در فرانسه و آلمان راه‌اندازی کرد و کمیسیون اروپا بودجه‌های ویژه‌ای برای آنها در نظر گرفت. با استفاده از ترفندهای قانونی، به این مراکز برق ارزان‌تر داده شد تا بتوانند رقابت کنند. شعار اروپا این است که OVH باید تبدیل به AWS اروپا شود.

این نشان می‌دهد که داشتن زیرساخت داخلی برای فعالیت‌های حیاتی یک ضرورت است. وابستگی تا حدی منطقی است، اما فراتر از آن می‌تواند به درماندگی منجر شود. به همین دلیل، اروپایی‌ها به دنبال ایجاد سطح معقولی از زیرساخت‌های خود هستند.

در مورد ایران، این موضوع اهمیت بیشتری پیدا می‌کند. با توجه به چالش‌های روابط بین‌المللی ما، همواره نیاز به استقلال در ذهن ما وجود دارد. البته سطح این استقلال می‌تواند متفاوت باشد. در حوزه هوش مصنوعی و پردازش‌های ابری، با توجه به محدودیت‌های دسترسی ما به اینترنت بین‌المللی، داشتن زیرساخت‌های داخلی می‌تواند سرعت بیشتری را برای کاربران به ارمغان آورد. این مزیت، جدا از مسائل امنیتی و حفاظت از اطلاعات، اهمیت زیادی دارد.

البته، تهیه سخت‌افزارهای مورد نیاز می‌تواند چالش‌برانگیز باشد. با این حال، اعتقاد من بر این است که بازار داخلی ایران در این زمینه رو به رشد است. ما باید به اندازه معقول – نه لزوماً تمام توان پردازشی – اما حداقل نیاز را در داخل کشور تأمین کنیم تا بتوانیم در لبه فناوری حرکت کنیم.

دکتر محمدی (مجری): آیا برآوردی از توان پردازشی مورد نیاز کشور و نرخ رشد این تقاضا دارید؟ به نظر شما، آیا توسعه زیرساخت‌های پردازشی برای هوش مصنوعی، چه در قالب سرویس‌های ابری و چه در قالب مراکز داده، پتانسیل کافی برای جذب سرمایه‌گذاری کسب‌وکارها را دارد؟

دکتر محمدی نیک: در مورد پردازش‌های ابری، از آنجا که این حوزه کسب‌وکاری است که سال‌ها در ایران فعال بوده، آمار و ارقام شفاف‌تری وجود دارد. در حال حاضر، برای شرکت‌های فعال در حوزه خدمات ابری، HPC و پردازش‌های مبتنی بر CPU، کاملاً توجیه اقتصادی دارد که سرورها را از خارج از ایران خریداری کنند، در ایران مستقر کنند و به مشتریان خود سرویس دهند.

اما مشکل اصلی ما کمبود مراکز داده با استانداردهای بین‌المللی در داخل کشور است. حتی اگر مراکز داده‌ای داریم، اغلب با حداقل استانداردهای بین‌المللی مطابقت ندارند.

ایجاد و مدیریت مراکز داده در حوزه وظایف شرکت‌های ارائه‌دهنده خدمات ابری نیست. این امر نیازمند یک زیرساخت اساسی و سرمایه‌گذاری بلندمدت است که معمولاً مستلزم مشارکت دولت‌ها یا نهادهای بزرگ است. در حال حاضر، شکاف اصلی در توسعه پردازش‌های ابری در ایران، کمبود مراکز داده است، نه خرید و نصب تجهیزات یا ارائه خدمات.

در مورد پردازش‌های گرافیکی (GPU)، وضعیت متفاوت است. این سخت‌افزارها بسیار پیشرفته هستند و با کمبود عرضه در سطح جهانی مواجه هستیم، که این مسئله جدا از چالش‌های تحریم‌ها است. علاوه بر این، مراکز داده باید استانداردهای بسیار بالاتری را رعایت کنند تا بتوانند از این سخت‌افزارها به درستی نگهداری کنند.

نکته دیگر این است که بازار هوش مصنوعی در ایران هنوز شکل نگرفته است. شرکت‌های فعال در این حوزه عمدتاً جدید هستند و متأسفانه بسیاری از آنها بر بخش‌هایی از هوش مصنوعی تمرکز کرده‌اند که نیازمند مدل‌های زبانی بزرگ (LLM) و پردازش داده‌های کلان است، که به نوبه خود نیازمند قدرت پردازشی بسیار بالایی است.

دکتر محمدی (مجری): به نظر می‌رسد ما همواره تمایل داریم از کمیت به کیفیت برسیم، در حالی که در دنیای امروز، رویکرد صحیح این است که از ابتدا با کیفیت شروع کنیم. متأسفانه، ما همچنان در بسیاری از زمینه‌ها ابتدا بر افزایش کمیت تمرکز می‌کنیم، با این امید که شاید از میان تعداد زیادی، چند مورد به کیفیت مطلوب برسد.

حال، با توجه به روند افزایش قدرت پردازشی GPU‌ها، به ویژه با پیشرفت‌های اخیر NVIDIA در تولید نسل جدید پردازنده‌ها مانند A100، H100 و اخیراً H200، و با در نظر گرفتن قیمت‌های بالای این پردازنده‌ها (حدود 20 تا 40 هزار دلار برای هر واحد) و محدودیت‌های دسترسی به آنها در بازار جهانی، چگونه باید ظرفیت‌های پردازشی GPU مورد نیاز کشور را در آینده تأمین کنیم؟ آیا به نظر شما ضرورتی دارد که ما وارد استفاده از پردازنده‌هایی در این سطح شویم، یا پردازنده‌های نسل قبل مانند RTX برای نیازهای پردازشی هوش مصنوعی در ایران کافی هستند؟

دکتر محمدی نیک: به نظر من، در حال حاضر یک کمپین بازاریابی گسترده در سطح جهانی برای عرضه فناوری در حوزه هوش مصنوعی در جریان است و تقاضا برای این فناوری‌ها روز به روز در حال افزایش است. ما معمولاً فناوری‌های روز دنیا را با تأخیر دریافت می‌کنیم و با توجه به سرعت بالای تغییرات فناوری، همواره از آخرین پیشرفت‌ها عقب هستیم. در چنین شرایطی، بهتر است که در تهیه این سخت‌افزارها و فناوری‌ها با صبر و تحمل بیشتری عمل کنیم.

همانطور که در بازارهای مالی گاهی عدم معامله بهتر از انجام معامله است، در اینجا نیز شاید بهتر باشد با تمرکز بیشتر، بدون هیجان‌زدگی و با شناخت دقیق‌تر نیازها عمل کنیم. اگر قصد داریم در سطح ملی در این حوزه فعالیت کنیم، باید ابتدا بررسی کنیم که آیا در سایر حوزه‌ها به بلوغ کافی رسیده‌ایم که بخواهیم این مسیر را طی کنیم.

دکتر محمدی (مجری): من شنیده‌ام که بسیاری از دانشگاه‌ها روی خودروهای خودران کار می‌کنند، اما به نظر من این برای ایران زود است. اگرچه این موضوع برای کار دانشگاهی جذاب است، اما ما موضوعات مهم‌تری در حوزه هوش مصنوعی داریم که باید به آنها بپردازیم. حتی اگر ما بهترین فناوری خودروی خودران را داشته باشیم، آیا می‌توانیم آن را صادر کنیم یا در داخل کشور استفاده کنیم؟

درحالی که نیاز پردازشی ما به خوبی شناسایی نشده است، فقط می‌گوییم که باید H100 یا A100 داشته باشیم تا بتوانیم برای پردازش LLM استفاده کنیم، اما واقعاً چه تعدادی نیاز داریم؟

دکتر محمدی نیک: پیشنهاد من این است که حداکثر نیاز کشور ما در حال حاضر می‌تواند حدود 3000 پتافلاپس باشد. فکر می‌کنم تا دو سال آینده، نیاز ما بیش از این نخواهد بود. بسیاری از نیازها دارای اوج مصرف هستند که می‌توانیم آنها را با استفاده از توان پردازشی خارج از کشور مدیریت کنیم. نیازی نیست برای اوج مصرف، واردات داشته باشیم. این یک سیستم اقتصادی طبیعی است. به عنوان مثال، اگر در یک کشور مصرف مرغ در ماه رمضان افزایش می‌یابد…

دکتر محمدی (مجری): بله، درست است. همانطور که در مثال مرغداری اشاره کردید، کشور می‌تواند در ماه رمضان واردات داشته باشد و نیازی نیست برای 11 ماه دیگر سال تولید مرغ را افزایش دهد یا سیستم مرغداری را گسترش دهد. این مکانیزم ساده عرضه مرغ در بازار دقیقاً مشابه حوزه پردازش‌های GPU است و تفاوتی ندارد.

در بحث‌های انتشار نوآوری، مدلی به نام مدل راجرز وجود دارد که بیان می‌کند هر نوآوری یا فناوری جدیدی که وارد بازار می‌شود، ابتدا حدود 2.5 درصد از جامعه هدف به سراغ آن می‌روند و شروع به خرید و استفاده از آن می‌کنند. به نظر می‌رسد برخی از این پردازنده‌ها حتی به این 2.5 درصد هم نرسیده‌اند و واقعاً در لبه فناوری قرار دارند. شاید همانطور که شما اشاره کردید، بهتر باشد اجازه دهیم این تب و تاب ورود فناوری جدید فروکش کند، ریسک‌هایش مشخص شود و هزینه‌هایش تعدیل گردد، زیرا برخی از آنها هزینه‌های بسیار بالایی دارند که از نظر صرفه اقتصادی، بدون نیاز مشخص در بازار، مقرون به صرفه نیستند.

اگر بخواهیم صحبت‌های شما را در دو لایه تقسیم کنیم، لایه اول زیرساخت پردازشی است که شما یک پیش‌بینی کوتاه‌مدت از ظرفیت پردازشی مورد نیاز در افق دو تا سه ساله ارائه کردید. لایه دوم که معمولاً روی توان پردازشی قرار می‌گیرد، توسعه مدل‌های زبانی بزرگ است.

دکتر محمدی نیک: بله، درست است. در مورد لایه دوم، یعنی توسعه مدل‌های زبانی بزرگ، باید توجه داشت که کشورهای توسعه‌یافته، به ویژه آمریکا، در این زمینه پیشرو هستند و حتی پشتیبانی خوبی از زبان فارسی ارائه می‌دهند. در سال‌های اخیر، سرعت یادگیری این مدل‌ها نیز افزایش یافته است.

در مورد اینکه آیا ما باید جدی وارد توسعه مدل‌های زبانی بزرگ شویم یا خیر، باید گفت که برای کاربردهای خاص، ممکن است لازم باشد مدل‌های خاصی را توسعه دهیم. اما برای بسیاری از کاربردها، می‌توان از مدل‌های موجود استفاده کرد، API گرفت و حتی کسب و کار روی آنها ایجاد کرد. شاید رویکرد میانبر این باشد که به جای ورود به فاز توسعه تکنولوژی، از مدل تقاضامحور استفاده کنیم، زیرا ما لیدر بازار نیستیم و این رویکرد می‌تواند بهتر جواب دهد.

در سیستم‌های پردازشی که در سال‌های گذشته در دانشگاه‌ها استفاده می‌شد، شاهد بودیم که در اتاق اساتید، کامپیوترها و ابررایانه‌های بسیار قوی وجود داشت که شاید در طول ترم فقط چند بار از آنها استفاده می‌شد. حال، وقتی این موضوع به حوزه GPU منتقل می‌شود، قیمت‌ها بسیار بالاتر می‌رود.

شاید وجود یک مرکز یا اپراتور برای خدمات زیرساختی هوش مصنوعی بتواند این مشکل را حل کند. همانطور که وقتی می‌خواهید با جایی تماس بگیرید، تلفن یا موبایل خود را برمی‌دارید و شماره می‌گیرید، بدون اینکه نگران اتفاقات پشت صحنه در اپراتور موبایل باشید، کسی که در حوزه هوش مصنوعی کار می‌کند نیز باید با چنین مکانیزمی روبرو شود.

ایده‌آل این است که یک سیستم یا اپراتور در حوزه هوش مصنوعی وجود داشته باشد که داده‌های عمومی در آن موجود باشد، مانند داده‌های ثبت احوال و سایر داده‌های باز موجود در سطح کشور. این سیستم باید توان پردازشی کافی برای پروژه‌ها داشته باشد و یک سیستم ذخیره‌سازی برای داده‌های شخصی که کاربران می‌خواهند آپلود کنند، فراهم کند. به این ترتیب، یک توسعه‌دهنده می‌تواند به اندازه نیاز خود از این اپراتور سرویس بگیرد.

در این سیستم، هر کاربر به میزان مورد نیاز خود از منابع پردازشی استفاده می‌کند و پس از اتمام کار، این منابع برای کاربران بعدی آزاد می‌شوند. این همان مفهوم اقتصاد مشارکتی است که در آن هر سازمان نیازی به راه‌اندازی سرویس‌های اختصاصی برای خود ندارد. در حال حاضر، حتی بانک‌های ما به فکر ایجاد مزرعه GPU اختصاصی افتاده‌اند، در حالی که یک اپراتور GPU با مقیاس مناسب می‌تواند بسیاری از پروژه‌های ما را به راحتی پشتیبانی کند.

دکتر محمدی (مجری): پس در واقع، پیشنهاد و ایده شما برای آینده زیرساخت‌های هوش مصنوعی در کشور، ایجاد تعدادی اپراتور هوش مصنوعی است که در لایه‌های مختلف، از زیرساخت تا پلتفرم و سپس سرویس، فعالیت کنند. این اپراتورها به ویژه در لایه‌های پایین‌تر، یعنی لایه زیرساختی، توان پردازشی لازم را ایجاد کرده و مزرعه‌های GPU قدرتمند راه‌اندازی کنند. در لایه‌های بالاتر، این اپراتورها می‌توانند داده‌ها را پاکسازی، بهینه‌سازی و آماده‌سازی کنند. حتی در لایه‌های بالاتر، ممکن است برخی مدل‌های زبانی بزرگ (LLM) را توسعه دهند یا مدل‌های بین‌المللی را عرضه کنند. در لایه زیرساخت نیز، این می‌تواند یک پلتفرم باشد که شما ظرفیتی را ایجاد می‌کنید و دیگران می‌توانند روی آن سرویس ارائه دهند. آیا می‌توانید جزئیات بیشتری در مورد این اپراتور در این دو یا سه لایه توضیح دهید؟

دکتر محمدی نیک: ابتدا باید ببینیم کشورهای دیگر چه اقداماتی انجام داده‌اند. در آمریکا، AWS را می‌توان به عنوان یک اپراتور کامل در حوزه هوش مصنوعی در نظر گرفت که از پایین‌ترین لایه‌ها (پردازش) تا بالاترین لایه‌ها (APIها و سرویس‌ها) را پوشش می‌دهد. در آنجا، یک شرکت خصوصی در اقتصاد بزرگ آمریکا توانسته این کار را انجام دهد، اما در ایران این کار بسیار دشوار است. این مانند راه‌آهن یا جاده‌های اصلی یک کشور است که حتماً باید دولت و حاکمیت در آن نقش داشته باشند و سپس توسعه آن را به بخش خصوصی بسپارند.

در مورد لایه‌های این اپراتور، به طور مختصر می‌توان گفت:

پایین‌ترین لایه: سخت‌افزارهایی که در مراکز داده قرار می‌گیرند و پردازش را انجام می‌دهند.

لایه بالاتر: پلتفرمی که این سخت‌افزارها را از مراکز داده مختلف تجمیع کرده و به صورت یک ابر یکپارچه در اختیار کاربر قرار می‌دهد.

لایه بعدی: مدیریت داده‌ها، شامل داده‌های کاربر، داده‌های عمومی و داده‌های سایرین، همراه با تحلیل، اشتراک‌گذاری و ذخیره‌سازی این داده‌ها.

لایه بالاتر: تحلیل و سیستم‌های مدل‌سازی روی پلتفرم‌های مورد استفاده برای مدل‌سازی.

لایه‌های بالاتر: سرویس‌ها و APIهایی که در اختیار دیگران قرار می‌گیرد.

به عنوان مثال، اگر شرکتی بخواهد نرم‌افزاری برای تشخیص تقلب در یک سیستم تولید کند، می‌تواند از APIهای این اپراتور برای بررسی صحت اطلاعات هویتی، تشخیص دستکاری در تصاویر و اجرای مدل‌های تشخیص تقلب استفاده کند. این اپراتور می‌تواند الگویی مشابه AWS در مقیاس ملی باشد.

دکتر محمدی (مجری): حال فرض کنیم چنین اپراتوری شکل بگیرد. آیا به نظر شما مقیاس بازار ایران اجازه شکل‌گیری اپراتور در این ابعاد و به صورت اقتصادی را می‌دهد؟ حتی اگر دولت یک دوره حمایتی داشته باشد، آیا این بازی اقتصادی می‌تواند به درستی شکل بگیرد تا اپراتور بتواند با کیفیت بالا سرویس ارائه دهد و همچنین در زیرساخت‌های پردازشی که به سرعت در حال تغییر هستند، سرمایه‌گذاری کند و تکنولوژی‌های جدید را وارد کند؟

دکتر محمدی نیک: پیش‌بینی من این است که بازار ایران حداقل در پنج سال آینده کفاف اقتصادی کردن این فعالیت را نمی‌دهد. بنابراین، هر اپراتوری که شکل بگیرد، باید با هدف ورود به بازار بین‌المللی نیز باشد. یعنی در کنار پشتیبانی از بازار داخلی، باید به دنبال ایجاد بازار بین‌المللی نیز باشد. به نظر شما، امکان ورود به بازار بین‌المللی در این نوع سرویس‌ها، به خصوص با وجود غول‌هایی مانند AWS، Microsoft Azure و سایر بازیگران بزرگی که وارد این حوزه شده‌اند، چقدر امکان‌پذیر است؟ منظورم از نظر نسبت عملکرد به قیمت است.

در اینجا یک فرصت وجود دارد، به ویژه در پردازش‌های GPU محور که الزاماً نیازی به ارتباط بلادرنگ ندارند. با توجه به نوع دسترسی که ایران به اینترنت بین‌المللی دارد، نمی‌توان یک مرکز داده در ایران داشت که به طور مستقیم به دنیا سرویس دهد. حتی در مناطق آزاد و ویژه اقتصادی، ما بارها تلاش کرده‌ایم که به کشورهای همسایه از داخل ایران سرویس مرکز داده ارائه دهیم، اما این کار بسیار دشوار بوده است. محدودیت‌های داخلی حتی بیشتر از تحریم‌های خارجی و محدودیت‌های فنی مانع ایجاد کرده‌اند.

اما در حوزه پردازش‌های GPU و رندر فارم‌ها، سرعت اینترنت و پایداری آن به اندازه سرویس‌های بلادرنگ اهمیت ندارد. بسیاری از شرکت‌های رندر فارم در دنیا وجود دارند که شما یک فایل سه‌بعدی را به سیستم می‌دهید، پردازش روی آن انجام می‌شود و خروجی را دریافت می‌کنید. در این موارد، لزوماً نیاز نیست که اینترنت در هر لحظه پایدار باشد. شما فایل خود را آپلود می‌کنید و سپس خروجی را دانلود می‌کنید. محل انجام این کار، چه در ایران باشد چه در جای دیگر، اهمیت چندانی ندارد.

بنابراین، اگر بتوانیم از نظر قیمت مزیت داشته باشیم، قطعاً می‌توانیم در بازار بین‌المللی فعالیت کنیم. ما در حوزه انرژی قطعاً مزیت داریم. سخت‌افزاری که ما می‌خریم، خیلی گران‌تر از سخت‌افزاری نیست که AWS می‌خرد، هرچند خرید آنها در مقیاس بزرگتری انجام می‌شود. اما با فرض اینکه در مقیاس مساوی با شرکت‌های متوسط خودمان مقایسه کنیم، نیروی انسانی که گران‌ترین قسمت کار است، در ایران بسیار ارزان‌تر است و این می‌تواند برای ما یک بازار خوبی ایجاد کند.

 یکی از فرصت‌هایی که در حقیقت برای بازارهای بین‌المللی وجود دارد، ورود توسعه‌دهندگان ایرانی برای توسعه سرویس‌های هوش مصنوعی در خارج از ایران است. اجازه دهید مثالی بزنم: یک معضل بزرگ در کشورهای اروپایی، خرید و اجاره خانه است. من تجربه زیسته‌ای در دانمارک دارم. چندین پلتفرم وجود دارند، مشابه سایت دیوار خودمان، که برای اجاره یا خرید و فروش خانه استفاده می‌شوند. مقایسه گزینه‌ها برای مردم بسیار دشوار است.

این نیازی است که در اروپا وجود دارد، تخصص آن در ایران هست و منابع مالی آن نیز در اروپا موجود است. بنابراین، ما می‌توانیم در این زمینه فعالیت کنیم. یک تیم ایرانی فعال در حوزه هوش مصنوعی، به جای تمرکز بر بومی‌سازی، می‌تواند بر درآمد ارزی تمرکز کند. مثلاً، سیستمی که بتواند در قالب یک ربات هوشمند به کاربر کمک کند تا با توجه به منطقه مورد نظر، محل کار، الگوهای ترافیکی و محل مدرسه فرزندش، بهترین مکان برای خرید یا اجاره خانه را با توجه به توان اقتصادی‌اش پیشنهاد دهد.

همه این داده‌ها به صورت باز در کشورهای اروپایی، به ویژه دانمارک که من مثال می‌زنم، وجود دارد و در دسترس همگان است. این اطلاعات شاید به راحتی در ایران در دسترس نباشد. در اروپا، اطلاعات هست، نیاز بازار وجود دارد، اما شرکت‌های بومی به سختی می‌توانند چنین سیستمی را ایجاد کنند، زیرا توسعه این سیستم برایشان هزینه زیادی دارد.

یکی از شرکت‌هایی که من در آنجا می‌شناسم، ماهیانه حدود دو میلیارد تومان (به پول ایران) هزینه تبلیغات گوگل می‌دهد تا در صفحه اول گوگل باشد. اما داشتن یک ربات برای آنها هزینه بسیار بیشتری دارد. با این هزینه‌ها، در ایران می‌توان به راحتی یک ربات توسعه داد که این کار را انجام دهد. این سیستم از تحریم‌ها تأثیر نمی‌پذیرد و می‌توان یک سیستم آموزش‌دیده را فروخت که حین کار، دانش خود را افزایش می‌دهد و قابل فروش به مناطق مختلف است.

به نظر من، بهتر است که در کشور در دام بازار محدود هوش مصنوعی ایران نیفتیم، زیرا این بازار بسیار کوچک است. ما توانمندی لازم را داریم تا سیستم‌هایی تولید کنیم که خارج از ایران کار کنند و درآمدزایی داشته باشند. می‌توانیم در آنجا مهارت کسب کنیم، یاد بگیریم چگونه کار کنیم و سپس این تجربیات را به داخل ایران منتقل کنیم. چرا باید از اینجا شروع کنیم و بعد به خارج برویم، در حالی که احتمالاً امکان خروج نخواهیم داشت؟

دکتر محمدی (مجری): بسیار عالی. حال اگر بخواهم بحث را کمی عمومی‌تر مطرح کنم، با توجه به اینکه شما هم در کسب و کار قبلی و هم در این کسب و کار جدید، درگیر فعالیت‌های بین‌المللی و تعاملات بین‌المللی هستید و می‌دانم که در حال حاضر هم فروش سرویس و هم فروش محصول در بازار بین‌المللی دارید، به نظر شما این فرصت‌های بین‌المللی، علاوه بر لایه فروش نرم‌افزار، آیا در فروش سرویس هم جواب می‌دهد؟ یعنی آیا ما از نظر قیمتی می‌توانیم در بازار جهانی، حتی در مقایسه با بازیگران کوچکتر، مزیت قیمتی داشته باشیم؟

دکتر محمدی نیک: همین الان که داریم با هم صحبت می‌کنیم، ما در حقیقت رندر فارم داریم و مشتریانی از استرالیا و اروپا داریم که فایل‌هایشان را می‌گیریم، برایشان رندر می‌کنیم و سپس خروجی را تحویل می‌دهیم. این کار به راحتی قابل پیاده‌سازی در داخل کشور است و ما مزیت‌های لازم را داریم.

دکتر محمدی (مجری): حال می‌خواهم از منظر دیگری سؤال کنم. جنبه تاریک تأثیر هوش مصنوعی بر کسب و کارهای خودتان یا کسب و کارهای نزدیک به خودتان را چگونه می‌بینید؟ یعنی چقدر فکر می‌کنید این موضوع تهدیدکننده یا حتی ترسناک است؟ ورود هوش مصنوعی به اقتصادهای در حال توسعه مانند ما را چگونه ارزیابی می‌کنید؟ پیش‌بینی شما چیست؟

دکتر محمدی نیک: ببینید، هوش مصنوعی بیش از 70 سال است که به نوعی در بازار وجود دارد و با توجه به نیاز و سطح تکنولوژی، مدام در حال رشد است. اما در چند سال اخیر، یک جهش بزرگ در رشد آن رخ داده است. اگر نهایت آن را تصور کنیم، می‌توانیم بهتر تصمیم بگیریم. نهایت هوش مصنوعی چه می‌شود؟ شبیه‌سازی یک انسان یا یک ابرانسان؟

از نگاه من، نهایت هوش مصنوعی می‌تواند شبیه‌سازی ذهن انسان و حتی قوی‌تر از آن باشد. اما چه اتفاقی می‌افتد؟ اجازه دهید کمی به تاریخ برگردیم. انسان ابتدا کشاورزی می‌کرد، سپس برای کشاورزی نیاز به کارگر داشت. کارگران کم بودند، پس حیوانات را اهلی کرد و از آنها استفاده کرد. دید باز هم کم است، رفت برده گرفت تا سود بیشتری کسب کند. سال‌ها از برده‌ها استفاده کرد. حال بنا به دلایلی دیگر از برده استفاده نمی‌کند.

امروزه، صاحبان کسب و کار به دنبال سود بیشتر هستند. کارگران ماهر شده‌اند و تبدیل به افراد با استعداد شده‌اند. پس یکی از راه‌ها، اگر به الگوی گذشته نگاه کنیم، این است که ما “برده با استعداد” داشته باشیم، که البته وجود ندارد. اگر هوش مصنوعی شبیه انسان شود، تازه می‌شود یک “برده با استعداد”. یعنی اگر بخواهیم این را با گذشته مقایسه کنیم، انگار که ما برگشته‌ایم به سیستم برده‌داری، اما این بار برده‌هایمان با استعداد هستند و می‌توانند کارهای پیچیده‌ای انجام دهند.

آیا در زمان برده‌داری که مثلاً سیاه‌پوستان در آمریکا برده بودند ، سفیدپوستان بیکار بودند؟ نه، آنها کار دیگری می‌کردند. آیا اگر تعداد برده‌های سیاه بیشتر و بیشتر می‌شد، سفیدپوستان بیکار و بیکارتر می‌شدند؟ نه، آنها کارهای دیگری می‌کردند و اتفاقاً ثروتمندتر هم می‌شدند. حال مشکل این است که برده‌های سیاه‌پوست آن زمان احتمالاً از نظر قدرت ذهنی و میزان توسعه‌یافتگی ابزارهایی که در دسترسشان بود، به راحتی به انقیاد کشیده می‌شدند. مشکل این است که اکنون ما درباره موجودی صحبت می‌کنیم که در آینده، اگر آن را “برده‌های نوین” یا “برده‌های با استعداد” یا “برده‌های هوشمند” بنامیم، آیا اصلاً قابل به انقیاد کشیدن هستند؟ یعنی می‌توانیم از آنها کار بکشیم یا آنها ما را به کار خواهند گرفت؟

قطعاً وقتی که ما آنها را ایجاد کردیم، باید به این نکته توجه کنیم که انسان دو جنبه دارد: جنبه عمل و جنبه فکر. ما در حال حاضر درباره جنبه فکری صحبت می‌کنیم و آن را شبیه‌سازی می‌کنیم. اما اگر یک ربات انسان‌نما بسازیم، مانند فیلم “ترمیناتور”، آن موقع ممکن است یک مشابه انسان باشد و آنها بیایند و در حقیقت ما را به بردگی بکشند. یعنی داستان برعکس می‌شود. این اتفاق ممکن است بیفتد زمانی که در حقیقت ما هر دو جنبه را داشته باشیم: هم عمل و هم تفکر. این آینده بسیار دوری است.

اما اگر این را در قالب آن “برده با استعداد” نگاه کنیم، آن موقع یک فرصت می‌شود. پس ما پزشکان و خلبانان زیادی خواهیم داشت که می‌توانند شبانه‌روز کار کنند.

به نظر می‌رسد سیستم‌های کمک‌یار مانند کوپایلوت در آینده زندگی را برای ما تسهیل خواهند کرد. اما نکته قابل توجه یا شاید خبر خوب یا بد این است که به نظر می‌رسد این روند در ایران، حداقل در کوتاه مدت، تأثیر چندانی نخواهد داشت. همانطور که فناوری اطلاعات در ایران تأثیر چشمگیری نداشت، گزارشی را مطالعه می‌کردم که نشان می‌داد بهره‌وری در ایران طی سال‌های اخیر تغییر قابل توجهی نکرده است. با وجود تمام تحولات، تغییر چندانی در اینجا رخ نداده است. قطعاً عوامل متعددی در این امر دخیل بوده‌اند.

زمانی تصور می‌کردیم که فناوری اطلاعات چه تحولی در کشور ایجاد خواهد کرد و چه تعداد زیادی از افراد بیکار خواهند شد. به یاد دارم زمانی که دانشجو بودم، می‌گفتند با ورود فناوری اطلاعات، بسیاری بیکار خواهند شد!

دکتر محمدی (مجری): بله، این مکانیزم تکاملی که معمولاً بین فناوری و جامعه وجود دارد و این سیستم‌های خودسازمانده که شکل می‌گیرند، در طول تاریخ نیز قابل مشاهده است. مردم و جامعه خود را با تکنولوژی تطبیق می‌دهند. سبک زندگی‌ها تغییر می‌کند، اما نه به صورت ناگهانی که همه ما را شگفت‌زده کند، مگر اینکه مانند اصحاب کهف بخوابیم و مثلاً 20 یا 30 سال بعد بیدار شویم. در غیر این صورت، وقتی در طول زمان تطبیق پیدا می‌کنیم، این مکانیزم تطبیق‌پذیری به طور ناخودآگاه انگار یک یادگیری مستمر بوده که تأثیر آن را به صورت یکباره احساس نمی‌کنیم.

90ا اینجا با شما موافقم، اما نکته‌ای که وجود دارد این است که در نهایت، تأثیرات هوش مصنوعی قطعاً از عصر دیجیتالی شدن یا حتی عصر پیش از دیجیتالی شدن، یعنی فناوری اطلاعات، بسیار بیشتر خواهد بود. به عنوان مثال، می‌بینیم که ارزش بازار سهام شرکتی مانند انویدیا در عرض سه سال به دو تریلیون دلار می‌رسد، که حتی با غول‌های دیجیتال نسل قبل هم قابل مقایسه نیست.

به نظر می‌رسد یک بازی جدید در حال شکل‌گیری است. اتفاقاتی که احتمالاً در یک دهه آینده رخ خواهد داد، در برخی حوزه‌ها احتمالاً منجر به تخریب‌هایی خواهد شد که باعث می‌شود برخی کسب و کارها یا حتی مهارت‌ها کم‌رنگ شوند. به عنوان مثال، حتی مهارت من به عنوان یک استاد دانشگاه احتمالاً در یک دهه آینده بسیار کم‌رنگ‌تر خواهد شد. شاید مهارت‌های ارتباطی و شناختی همچنان کمک کند، اما مهارت‌های علمی من در کنار دستیاران هوشمند علمی چندان قابل توجه نخواهد بود.

دکتر محمدی نیک: بله، من هوش مصنوعی را از دیدگاه کسب و کارهای ایرانی، مانند یک ابزار می‌بینم. همانطور که از ابزارهایی مانند اینستاگرام یا سیستم‌های مدیریت ارتباط با مشتری استفاده می‌کردند تا کسب و کارشان را بهبود بخشند، پذیرش این ابزارها و یکپارچه‌سازی با آنها قطعاً می‌تواند تحولاتی ایجاد کند که ماهیت بسیاری از کسب و کارها را تغییر دهد.

انسان تنها موجودی است که ابزار می‌سازد و هر ابزاری که ساخته، از ابزار قبلی متحول‌کننده‌تر بوده است. همانطور که شما فرمودید، دامنه این تحولات نیز مدام در حال کوتاه‌تر شدن است.

ما ایرانی‌ها همیشه سعی می‌کنیم جنبه‌های منفی یک موضوع را برای خودمان بزرگ کنیم تا از آن استفاده نکنیم یا از آن بترسیم. شاید این یک نوع فرار رو به جلو برای استفاده نکردن باشد. مثلاً اگر یک چاقو در دست بگیرید، می‌توانید آنقدر به جنبه‌های منفی آن فکر کنید که از استفاده مفید آن غافل شوید.

 (دکتر محمدی (مجری): بله، به نظر می‌رسد نگاه شما به عنوان یک نوع خوش‌بینی واقع‌گرایانه نسبت به هوش مصنوعی قابل توصیف است. شما کارکردهای آن را نه چندان عجیب و غریب تصور می‌کنید، حداقل در یک افق زمانی شاید یک دهه آینده.

با توجه به رویکرد خوش‌بینی واقع‌گرایانه شما و با در نظر گرفتن رسالت مهم ما در پلتفرم “فیوچراو” برای امیدآفرینی در جامعه – اعم از عموم مردم، دانشجویان، فعالان عرصه سیاست و صنعتگران – می‌خواهیم به آنها نشان دهیم که آینده مسیرهایی را طی می‌کند که می‌تواند فرصت‌هایی را ایجاد کند. علی‌رغم تمام دشواری‌ها، می‌توان از این فرصت‌ها بهره‌برداری کرد. حال، به عنوان فردی که در عرصه کسب و کار فعال هستید، به نظر شما مهم‌ترین فرصت‌های کسب و کار یا مهم‌ترین فرصت‌هایی که می‌تواند برای کسب و کار ایجاد شود، کدام‌اند و در کجا می‌توانیم از این ظرفیت‌ها استفاده کنیم؟

دکتر محمدی نیک: ببینید، ما از آنچه فکر می‌کنیم حق ما در دنیاست، عقب‌تر هستیم. به گمان من، اگر از هوش مصنوعی به طور هوشمندانه و به عنوان یک ابزار مفید استفاده کنیم، می‌تواند این فاصله ما با آنچه باید باشیم را به سرعت کاهش دهد. درست است که در حال حاضر انحصارهایی در حوزه هوش مصنوعی وجود دارد، اما دنیا به سمتی می‌رود که این انحصارات کمتر می‌شود.

برخلاف صنایعی مانند صنعت اتمی که سال‌هاست انحصار در آن حفظ شده، صنایع نرم‌افزاری از این جنس انحصار کمتری دارند. چرا که نقش دولت‌ها در آن کمتر شده و نقش بخش خصوصی و رقابت سالم پررنگ‌تر است. این می‌تواند خبر خوبی باشد اگر ما از این ابزار نترسیم و از آن به خوبی استفاده کنیم.

ما در کشورمان به کمک هوش مصنوعی می‌توانیم عدالت بهتری داشته باشیم. به عنوان کشوری که یارانه‌های زیادی پرداخت می‌کند، هوش مصنوعی می‌تواند توزیع این یارانه‌ها را عادلانه‌تر کند. همچنین می‌توانیم به مناطق محروم کمک بهتری ارائه دهیم.

کسب و کارهای ما اغلب با هزینه‌های بالا اداره می‌شوند. اگرچه نیروی کار ارزانی داریم، اما به گران‌ترین شکل ممکن کارهایمان را انجام می‌دهیم. امیدوارم هوش مصنوعی، در صورت استفاده صحیح، به ما در ایجاد کسب و کارهای بهتر کمک کند.

ما در شرایطی هستیم که تقریباً از بسیاری از کشورهای دنیا منفصل هستیم. هوش مصنوعی می‌تواند به راحتی ما را به آنها متصل کند و از فرصت‌های آن سوی مرزها استفاده کنیم و کسب و کارهایمان را توسعه دهیم.

ایران همواره به عنوان کشوری با جمعیت 80 تا 100 میلیونی شناخته می‌شود، اما اقتصاد ما به اندازه کافی بزرگ نیست که فقط نگاه درونی داشته باشیم. برخلاف اقتصاد آمریکا که آنقدر بزرگ است که بسیاری از شرکت‌های آمریکایی هرگز به فکر صادرات نمی‌افتند، ما باید به بازارهای بین‌المللی توجه کنیم.

دکتر محمدی (مجری):شما که یک مرکز نوآوری و شتاب‌دهنده دارید و کارهای اکوسیستمی و ونچری انجام می‌دهید، اگر من یک ایده هوش مصنوعی داشته باشم، در چه حوزه‌ای برای شما جذاب‌تر است که روی آن سرمایه‌گذاری کنید؟

دکتر محمدی نیک: چند دقیقه پیش مثالی زدم درباره یک پلتفرم یا رباتی که بتواند به کاربران عمومی در سراسر دنیا کمک کند و تعداد زیادی کاربر جذب کند. این پلتفرم می‌تواند از داده‌های منبع باز و رایگان که در اختیار همه است، استفاده کند.

دکتر محمدی (مجری): بسیار عالی، متشکرم. این حوزه‌هایی که اشاره کردید، اگر نکته‌ی تکمیلی دیگری دارید، لطفاً بفرمایید تا بتوانیم جمع‌بندی کنیم.

دکتر محمدی نیک: اجازه دهید تشبیهی را مطرح کنم. من هوش مصنوعی را به برده‌های با استعداد تشبیه کرده‌ام. در آینده، من دو فرصت شغلی عمده می‌بینم: اول، کاربران سیستم‌های هوش مصنوعی که از عامل‌های هوشمند استفاده می‌کنند، و دوم، آموزش‌دهندگان هوش مصنوعی.

در حال حاضر، برای آموزش هوش مصنوعی معمولاً از یادگیری عمیق استفاده می‌کنیم که انرژی زیادی مصرف می‌کند و چندان کارآمد نیست. اگرچه ممکن است خروجی خوبی داشته باشد، اما شاید در آینده مهارت‌هایی وجود داشته باشد که به شما امکان دهد مهارت‌های خود را به شکل بهتری به یک هوش مصنوعی آموزش دهید.

به عنوان مثال، در حال حاضر برای آموزش شطرنج به هوش مصنوعی، دو روش داریم: یا می‌توانیم یک سری قواعد و تکنیک‌هایی که می‌دانیم را به صورت یادگیری با نظارت آموزش دهیم، یا دو کامپیوتر را مقابل هم قرار دهیم و بگوییم هزاران یا میلیون‌ها بار با هم بازی کنند. در روش دوم، مصرف انرژی بسیار بالاست.

در آینده، مهارتی به وجود خواهد آمد که به ما نشان می‌دهد چگونه این سیستم‌های هوش مصنوعی را به شکل بهتری آموزش دهیم. این موضوع برای ما ایرانی‌ها جذاب است، زیرا به خلاقیت نیاز دارد و می‌تواند نوعی سرگرمی هم باشد.

به عنوان مثال، اگر کسی بتواند یک سیستم بازی‌سازی (گیمیفیکیشن) برای یادگیری هوش مصنوعی ایجاد کند که به افراد از طریق بازی، مهارت‌آموزی در این زمینه را یاد دهد، این یکی از فرصت‌هایی است که من در آینده می‌بینم و فکر می‌کنم ما می‌توانیم در آن مزیت‌هایی داشته باشیم.

من برای آینده هوش مصنوعی در ایران بسیار امیدوارم، به شرطی که از سوی سیستم‌های دولتی، حمایت کافی از این اکوسیستم صورت گیرد. حداقل‌های لازم، فارغ از هیاهوهای تبلیغاتی، باید برای شرکت‌های دانش‌بنیان ما، به‌ویژه آنهایی که در این حوزه فعالیت می‌کنند، فراهم شود تا زمینه رشدشان هموارتر گردد.

کسب و کارهایی که در حوزه هوش مصنوعی فعالیت می‌کنند، معمولاً به زیرساخت‌های گران‌قیمتی نیاز دارند. باید مکانیزمی وجود داشته باشد که پارک‌های فناوری، دانشگاه‌ها و مراکز رشد بتوانند این امکانات را به صورت هوشمندانه در اختیار شرکت‌ها قرار دهند. این اقدامات کوچک، در کنار هم می‌توانند کار بزرگی را شکل دهند. ما نباید به دنبال یک قدم بسیار بزرگ باشیم؛ قدم‌های کوچک می‌توانند کارهای بزرگی را به انجام برسانند.

دکتر محمدی (مجری): دقیقاً، به نظرم جمله آخرتان بسیار مهم است، مخصوصاً در بحث‌های توسعه. خلاصه، متشکرم از اینکه وقتتان را در اختیار ما گذاشتید. امیدوارم بتوانیم باز هم با هم گفتگو داشته باشیم. به نظرم گفتگوی خوبی بود؛ کمی تخصصی درباره زیرساخت و فرصت‌هایی که هوش مصنوعی برای کسب و کارهای ایرانی ایجاد می‌کند، با هم صحبت کردیم. امیدوارم باز هم شما را ببینم. متشکرم از شما.

دکتر محمدی نیک: خواهش می‌کنم. من هم از دعوت شما متشکرم.

نظرات

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

درباره این قسمت:

گفتگوهای مشابه:

پادکست مداد زرد