در ماه می، شرکت OpenAI مدل چند رسانهای پیشرفته خود به نام GPT-4o را معرفی کرد. این مدل سریع تر و ارزان تر از GPT-4 Turbo است و توانایی های دیداری قوی تری دارد. امروز، OpenAI اطلاعات فنی مدل GPT-4o را منتشر کرد. علاوه بر این، آن ها یک سیستم ارزیابی ایمنی جامع برای GPT-4o ارائه دادهاند و جزئیات قابلیت ها، محدودیت ها و ارزیابی های ایمنی مدل را در دسته های مختلف به اشتراک گذاشتهاند.
علاوه بر ارزیابی ها و اقدامات ایمنی انجام شده برای GPT-4 و GPT-4V، OpenAI کارهای ایمنی بیشتری را روی قابلیت های صوتی GPT-4o انجام داده است. خطرهایی که بررسی شدهاند شامل شناسایی گوینده، تولید صدای غیرمجاز، احتمال تولید محتوای دارای حق چاپ، استنتاج بی اساس و محتوای غیرمجاز است. بر اساس نتایج این ارزیابی ها، OpenAI اقدامات حفاظتی را در سطح مدل و سیستم اجرا کرده است.
GPT-4o در سه مورد از چهار دسته سیستم ارزیابی ایمنی نمره پایین گرفت و تنها در مورد قانع سازی نمره متوسط داشت. طبق این سیستم ارزیابی، فقط مدل هایی با نمره "متوسط" یا پایین تر میتوانند منتشر شوند و فقط مدل هایی با نمره "بالا" یا پایین تر میتوانند توسعه بیشتری پیدا کنند.
OpenAI همچنین با بیش از ۱۰۰ متخصص امنیت خارجی همکاری کرد تا مدل را قبل از انتشار عمومی ارزیابی کنند. این متخصصان قابلیت های جدید مدل را بررسی کردند، خطرات احتمالی جدید را ارزیابی کردند و اقدامات امنیتی را تحت فشار آزمایش کردند.
تیم OpenAI در مورد اطلاعات فنی GPT-4o نوشت: «OpenAI اقدامات ایمنی مختلفی را در طول توسعه و انتشار GPT-4o اجرا کرده است. به عنوان بخشی از فرآیند انتشار تدریجی خود، ما به نظارت و بروزرسانی اقدامات امنیتی بر اساس تغییرات محیط ادامه خواهیم داد.»
انتشار اطلاعات فنی مدل ها توسط OpenAI نشان دهنده تعهد این شرکت به توسعه مسئولانه هوش مصنوعی است تا اطمینان حاصل شود که هوش مصنوعی به صورت ایمن و در دسترس همه قرار میگیرد.