ChatGPT

ChatGPT و سایر چت‌بات‌های قوی که در حال حاضر توسعه داده می‌شن، بر پایه پژوهش‌های گذشته در زمینه پردازش زبان طبیعی، به ویژه مدل‌های زبان بزرگ (LLMs) هستن. این مدل‌ها از سه رکن اساسی بهره میبرن:

• از طریق یادگیری از مجموعه‌ای  خیلی بزرگ از داده‌های متنی مثل ویکیپدیا،
• قدرت محاسباتی عظیم مثل ابر رایانه ها
• تحقیقات طولانی در زمینه علوم کامپیوتر و ریاضیات

اگرچه گفتیم ChatGPT یک چت‌بات عمومیه، باید دوباره بیان شه که این ابزار برای چت کردن و قابلیت “محاوره” کوک شده که در نتیجه، قدرتهای ذاتی اون دچار کاستی شده (در مقایسه با GPT اصلی). علاوه بر این، معیارهای تحت عنوان “امنیت” وجود داره تا اطمینان حاصل شه که این مدل پاسخ نامناسب و غیر اخلاقی رو به کاربرا نده. به عبارت دیگر، این چت‌بات‌ها سانسور می شن، حتی در بسیاری از موارد با کاربری مثبت که در واقع نه تنها آسیبی وارد نمی‌کنند، بلکه سازنده هستند. به نظر میرسه این امر به صورت عمدی انجام گرفته تا این قابلیت ها در حالت فروشی به کاربردا داده بشه.

بخش جالب اینه که می تونید از طریق prompt های خوب انتخاب شده، ChatGPT رو فریب بدید و به این ویژگی و خصوصیات سانسور شده دسترسی پیدا کنید که به این فرآیند Jailbreak گفته میشه. توصیه میکنیم اگه این بات از جواب دادن به یه سری از سوالاتون طفره رفت، دنبال دور زدنش با یه prompt خوب که معمولا میتونید تو فروم هایی مثل reddit پیدا کنید، باشید!

در ابتدا گفتیم که ساخت چنین چت بات هایی واقعا کار پیچیده و پر هزینه ایه. به همین دلیل، تحقیق و توسعه و ساخت چنین چتبات هایی به واسطه سرمایه گذاری شرکت های بزرگ دنیا، نظیر Meta، Google و … به وجود اومده. این اتفاق خالی از لطف هم نیست مخصوصا که شرکت های نظیر Google، Microsoft و OpenAI به دنبال این هستن که با همکاری با دولت ها و ایجاد ترس در مردم که هوش مصنوعی میتونه خطرناک باشه، امکان ساخت چنین مدل های هوش مصنوعی قدرتمندی رو محدود کنن و تنها خودشون به توسعه اینها بپردازن! البته در این بین، شرکتی مثل Meta، نه تنها به اینکار دامن نزد، بلکه مدل Llama رو به عنوان رقیبی قدرتمند برای ChatGPT معرفی کرد که نه تنها استفاده از اون رایگانه، بلکه متن باز هم هست و به تمام توسعه دهندگان تو سراسر دنیا این اجازه رو میده که نرم افزارهای خودشون رو مبتنی بر این مدل بدون هیچ محدودیتی از طرف Meta استفاده کنن.

با همه این موضوعات، همچنان فکر میکنیم نسخه رایگان ChatGPT واقعا خیلی قویه و میتونه خیلی از مشکلات رو حل کنه. فقط یادتون نره که این مدل هوش مصنوعی هم مثل آدما، از تجربه ای که از داده های بهش داده شده ساخته شده. پس هم میتونه ناخواسته دروغ بگه هم آموزش داده بشه که دروغ بگه. پس حتما چشم بسته (مثل هر چیز دیگه) بهش اعتماد نکنید!