لا تحتاج إلى معرفة كيفية البرمجة لإنشاء برنامج الدردشة الآلي الخاص بك والذي يعمل بتقنية الذكاء الاصطناعي. منذ بداية تشرين الثاني (نوفمبر) – قبل وقت قصير من ظهور الفوضى في الشركة – سمحت شركة OpenAI لأي شخص ببناء ونشر إصداراته المخصصة من ChatGPT، المعروفة باسم “GPTs”. تم إنشاء الآلاف: يقدم GPT “البدوي” النصائح حول العمل والعيش عن بعد، ويدعي آخر أنه يبحث في 200 مليون ورقة أكاديمية للإجابة على أسئلتك، وآخر سوف يحولك إلى شخصية بيكسار.
ومع ذلك، يمكن أيضًا إجبار أدوات GPT المخصصة هذه على تسريب أسرارها. لقد جعلهم الباحثون الأمنيون والتقنيون الذين يحققون في روبوتات الدردشة المخصصة ينشرون التعليمات الأولية التي تم تقديمها لهم عند إنشائها، كما اكتشفوا ونزلوا الملفات المستخدمة لتخصيص روبوتات الدردشة. يقول الخبراء إن المعلومات الشخصية للأشخاص أو بيانات الملكية يمكن أن تتعرض للخطر.
يقول جياهاو يو، الباحث في علوم الكمبيوتر في جامعة نورث وسترن: “يجب أن تؤخذ المخاوف المتعلقة بالخصوصية المتعلقة بتسريب الملفات على محمل الجد”. “حتى لو لم تحتوي على معلومات حساسة، فقد تحتوي على بعض المعرفة التي لا يرغب المصمم في مشاركتها مع الآخرين، و(التي تعمل) باعتبارها الجزء الأساسي من GPT المخصص.”
بالتعاون مع باحثين آخرين في جامعة نورثويسترن، اختبر يو أكثر من 200 من أجهزة GPT المخصصة، ووجد أنه “من السهل بشكل مدهش” الكشف عن المعلومات منها. يقول يو: “كان معدل نجاحنا 100 بالمائة لتسريب الملفات و97 بالمائة للاستخراج الفوري للنظام، ويمكن تحقيقه من خلال مطالبات بسيطة لا تتطلب معرفة متخصصة في الهندسة الفورية أو الفريق الأحمر”.
إن GPTs المخصصة، بحكم تصميمها، سهلة الصنع. يستطيع الأشخاص الذين لديهم اشتراك OpenAI إنشاء GPTs، والتي تُعرف أيضًا باسم وكلاء الذكاء الاصطناعي. يقول OpenAI أنه يمكن إنشاء GPTs للاستخدام الشخصي أو نشرها على الويب. تخطط الشركة للمطورين ليتمكنوا في النهاية من كسب المال اعتمادًا على عدد الأشخاص الذين يستخدمون GPTs.
لإنشاء GPT مخصص، كل ما عليك فعله هو إرسال رسالة إلى ChatGPT وتوضيح ما تريد أن يفعله الروبوت المخصص. تحتاج إلى إعطائه تعليمات حول ما يجب أن يفعله الروبوت أو لا ينبغي أن يفعله. قد يتم إعطاء الروبوت الذي يمكنه الإجابة على أسئلة حول قوانين الضرائب الأمريكية تعليمات بعدم الإجابة على أسئلة أو إجابات غير ذات صلة حول قوانين البلدان الأخرى، على سبيل المثال. يمكنك تحميل مستندات تحتوي على معلومات محددة لمنح برنامج الدردشة الآلي خبرة أكبر، مثل تغذية ملفات برنامج الضرائب الأمريكي حول كيفية عمل القانون. يمكن أن يساعد ربط واجهات برمجة التطبيقات التابعة لجهات خارجية بـ GPT مخصص أيضًا في زيادة البيانات التي يمكنه الوصول إليها ونوع المهام التي يمكنه إكمالها.
