هل تهتم شركات الذكاء الاصطناعى بالسلامة حقًا؟

لطالما كنت في حيرة من خلال الطريقة التي يتحدث بها سام ألتمان ، رئيس Openai ، حول ما سيحدث إذا كان الذكاء الاصطناعي يتجاوز الذكاء البشري وعندما يتجاوز الذكاء البشري أو يتجاوزه.

يعترف أنه سيكون من الصعب السيطرة عليه ، ويأتي مع جميع أنواع الآثار الجانبية غير السارة – وربما فقط – تسبب انهيار الحضارة. ثم يقول إن شركته تتسابق لبناءها في أسرع وقت ممكن.

هل يأخذ قضايا السلامة على محمل الجد ، أم أنه يحاول فقط الحصول على تصريح مجاني من خلال مزاحنا للاعتقاد بأنه مواطن مسؤول يبحث عن مصالحنا؟

أعتقد الآن أننا نعرف. قامت إدارة ترامب بتجميع صناعة الذكاء الاصطناعى لما تريده من سياسة الولايات المتحدة بموجب إدارته الجديدة. الاستجابة: لقد حان الوقت لواشنطن لإزالة الطريق للقطاع حتى يتمكن من التحرك بشكل أسرع بكثير ، تكون اللوائح ملعونًا.

إذا كنت تبحث عن أدلة على كيفية تحول وادي السيليكون بالرياح السياسية ، فستكون من الصعب عليك العثور على أي شيء آخر صارخ مثل هذا.

بموجب الإدارة السابقة ، بشر أكبر شركات الذكاء الاصطناعي بالحذر – على الأقل في الأماكن العامة. حتى أنهم وافقوا على إخضاع نماذجهم الأقوى للاختبارات الخارجية قبل إطلاقها على بقية منا. رأى البيت الأبيض بايدن أن هذا خطوة أولى قد تؤدي في النهاية إلى فحص الحكومة وترخيص الذكاء الاصطناعي المتقدم.

حلم. صعد دونالد ترامب أمر بايدن التنفيذي على الذكاء الاصطناعى خلال الأسبوع الأول الذي يعود إليه في منصبه. ثم دعت إدارته إلى تعليقات لمساعدتها على تشكيل سياسة جديدة من الذكاء الاصطناعي – حالة كلاسيكية من إطلاق النار أولاً ، اطرح أسئلة لاحقًا.

في عروضها إلى البيت الأبيض ، كانت شركات مثل Openai و Meta و Google بالإجماع تقريبًا: تحتاج الولايات المتحدة إلى مساعدة شركاتها AI على التحرك بشكل أسرع إذا تأملت في التغلب على الصين ؛ لا ينبغي أن تربط الولايات الأمريكية عمالقة التكنولوجيا مع لوائح تدريجية (لأن الحكومة الفيدرالية كانت نائمة على عجلة القيادة على تنظيم التكنولوجيا لسنوات ، مما يستبعد أي قيود) ؛ يجب أن ينهي البيت الأبيض أوجه عدم اليقين بشأن حقوق الطبع والنشر وإعلان أن الشركات تقع ضمن حقوقها في تدريب نماذجها على أي بيانات موجودة في المجال العام.

أمان؟ قامت الشركات بتفتيش هذه الكلمة إلى حد كبير من مفرداتها. من المحتمل أن يكون هذا من الحكمة: لقد سمعوا جميعًا إعلان نائب الرئيس JD Vance ، في قمة منظمة العفو الدولية الأخيرة في باريس ، أن “مستقبل الذكاء الاصطناعى لن يفوز باليد بسبب السلامة”.

لم أشك أبدًا في أن سباق الذكاء الاصطناعي كان مجرد: سباق. العديد من الشركات المعنية هي قدامى المحاربين من معارك التكنولوجيا الفائزة الأخرى. لقد كان لديهم دائمًا طرق تبسيطية وخدمة ذاتيًا للحكم على ما يفعلونه ما يفعلونه في المصلحة العامة: إذا انقر الناس على شيء ما ، فيجب أن يريدوا المزيد منه. هذه هي حلقة التغذية المرتدة السريعة التي منحتنا الخوارزميات التي أطعمت طفرة وسائل التواصل الاجتماعي. ما الذي لا يعجبك؟

ولكن ، بعد كل الأدلة على الضرر الناجم عن وسائل التواصل الاجتماعي ، كنت تعتقد أن الشركات تريد أن تعرف كيف أن الذكاء الاصطناعى الخاص بهم هو عاطفة العالم قبل أن تسرع لإعطائنا المزيد منها. الأدلة بدأت فقط تتدفق ، وتفاجئ المفاجأة – إنها ليست مشجعة.

درس مختبر MIT للوسائط مؤخرًا الأشخاص الذين يستخدمون AI chatbots ووجدوا أن استخدامًا أثقل يرتبط ارتباطًا وثيقًا بـ “الوحدة العالية والاعتماد … الاستخدام الإشكالي وانخفاض التنشئة الاجتماعية”. هل يتعين علينا أن نتعلم الدرس مرة أخرى أن التكنولوجيا التي تسسرنا قد لا تفعلنا جيدًا؟ يبدو أننا نفعل.

إذا كنت تشعر بالسخاء بشكل خاص ، فأفترض أنه يمكنك محاولة توضيح أن شركات التكنولوجيا تقوم بتكييف عوالمها فقط لمنح ترامب ما يريد أن يسمعه. ربما لا يزالون مكرسين للسلامة والحفاظ على هذا الهدوء في الوقت الحالي. لكنني أعتقد أن الأمر سيستغرق كرمًا غير عادي للروح للوصول إلى هذا الاستنتاج.

كريستينا ، كمراسل تكنولوجيا في سان فرانسيسكو ، أنت تتعامل مع شركات الذكاء الاصطناعى هذه. هل تعتقد أنهم جادون بعد الآن حول سلامة الذكاء الاصطناعى ، أو هل ألقوا كل ذلك في الخارج في الاندفاع ليكونوا أول من الذكاء العام الاصطناعي (AGI)؟ هل هذا المحور مجرد انعكاس للمزاج الجديد في واشنطن ، وطلب ترامب البيت الأبيض على عروض الهيمنة الأمريكية؟ أم أننا نرى شركات التكنولوجيا الآن بألوانها الحقيقية؟

القراءة الموصى بها

• يمكنك تقديم هذا تحت “تلك الأشياء الأخرى التي تخشى قد تنجم عن هجوم إيلون موسك على الإنفاق الحكومي”. كتبت كلير جونز من FT أن الاقتصاديين بدأوا يقلقون بشأن مصداقية البيانات الاقتصادية الأمريكية. ربما لم تفكر أبدًا في أنك ستفقد اللجنة الاستشارية للإحصاء الاقتصادي الفيدرالي. ولكن الآن بعد أن رحل. . .

• هل أنصار ترامب على استعداد لتآكل برامج مثل Medicaid التي قد تكون في المقدمة حيث يبحث الجمهوريون عن تخفيضات أعمق للإنفاق الحكومي؟ ذهب جاي تشازان إلى بوغالوسا ، لويزيانا ، لسماع الناخبين. الامتناع: “لم يسبق له مثيل في الحملة … لا أعتقد أن الناس رأوا ذلك قادمًا”.

• إذا كان بإمكاني ثني القواعد قليلاً وتضمين مقطع فيديو على قائمة القراءة الموصى بها: في السنوات العديدة ، كتبت عن Tech (23 ، منذ أن أسأل) لم أر أبدًا شركة تهيمن على تقنية جديدة مهمة تمامًا مثلما هيمنت صانع الرقائق Nvidia في منظمة العفو الدولية. لكن لا شيء يدوم إلى الأبد. يفحص هذا الفيديو بعضًا من أكبر التحديات.

كريستينا كريدل يستجيب

يتمتع مطورو الذكاء الاصطناعى البارزين بجذور عميقة في أمان: Google ، المعروف عن شعارها “لا تكون الشر” ؛ مهمة Openai لضمان أن الذكاء الاصطناعى يفيد الإنسانية ؛ وتأسيس موظفي Openai السابقين الأنثروبور للتركيز على الذكاء الاصطناعى المسؤولة.

تقوم هذه المختبرات بالفعل بإجراء اختبارات داخلية صارمة ونشر الأوراق الأكاديمية وبطاقات تقرير النظام التي تضع المخاطر المتصورة من كل نموذج ، وترتيبها لمخاطرها. لا يوجد أي اقتراح بأن هذه الإجراءات ستتغير ، ولكن الأمر متروك للمشرعين والجمهور لتقرير ما إذا كانت هذه الشركات التي تشير إلى واجباتها المنزلية جيدة بما يكفي.

بالإضافة إلى ذلك ، أثار صعود Deepseek احتمال عدم عمل الشركة الأولى التي تصل إلى AGI في بلد ذو قيم وقواعد ديمقراطية.

مع تهديد الصين الهيمنة وإدارة ترامب الجديدة مصممة على منع “استيقظ” الذكاء الاصطناعي ، كان هناك محور من “السلامة” ، إلى مصطلح أكثر سخونة: “الأمن”. أعيد تسمية معهد سلامة AI التابع لحكومة المملكة المتحدة إلى معهد أمن الذكاء الاصطناعي في فبراير. تركز الحكومات والباحثون على كيفية استخدام هذه الأنظمة من قبل الخصوم في الحرب المحتملة أو التجسس أو الإرهاب.

على الرغم من جهود أوروبا ، يبدو أن الآثار المجتمعية والإنسانية لهذه التكنولوجيا قد تم إلغاؤها. غالبًا ما تحذر الشركات الناشئة من الذكاء الاصطناعي من تكاليف الامتثال وكيف يمكن أن تعوق الابتكار ، وخاصة في البلدان التي لديها أكثر الأنظمة التنظيمية.

عندما سألت مايك كريجر ، كبير موظفي المنتجات في الأنثروبور ، حول أفضل نهج في السلامة في ظل الحكومة الحالية ، قال إن الشركة تحاول أن تشارك في أكبر عدد ممكن من المحادثات.

وقال “نحن لسنا هناك للقيام بالسياسة ، لكننا هناك للمساعدة في تشكيل السياسة بطريقة نعتقد أنها ستؤدي إلى نتائج جيدة دون خنق الابتكار ؛ هناك دائمًا هذا التوازن”.

كمؤسس مشارك لـ Instagram وكبير مسؤولي التكنولوجيا السابق ، فإن Krieger على دراية كبيرة بكيفية تأثير وسائل التواصل الاجتماعي على الديمقراطية ورفاهية مستخدميها. في حين تم رسم الكثير من أوجه التشابه بين مخاطر وسائل التواصل الاجتماعي و AI ، لا يزال لدينا تنظيم أو حلول ذات مغزى على السابق. إذن ما مقدار الأمل الذي يمكن أن يكون لدينا لهذا الأخير؟

يمكن القول إن التهديدات التي يطرحها الذكاء الاصطناعي أكثر أهمية بكثير ، وسرعة التطور سريعة. عند إطلاق Chatgpt ، رأينا قلقًا واسع النطاق من القادة في هذا المجال ، مستشهدين بالمخاطر الوجودية ويدعو إلى وقف على أنظمة AI القوية.

دعم Elon Musk مؤقتًا في التنمية ، وبعد أشهر من بدء تشغيله الخاص بـ AI ، XAI ، تطوير نماذج قوية ، جمعت بسرعة 12 مليار دولار. إن الموقف السريع لوادي السيليكون أقوى من أي وقت مضى ، ولكن هل نضج للقيام بذلك دون كسر الأشياء؟

ملاحظاتك

والآن كلمة من مستنقعاتنا. . .

ردا على “”هل سيجعل ترامب السفن رائعة مرة أخرى؟: “
“أتساءل ما هي فرص النجاح التي قد تكون فيها لإدارة ليس لديها أموال من المحتمل أن تكون متاحة لترحيل بناء السفن حتى لو كان الرئيس يؤمن بهم ، ومن المرجح أن يهدد غزو البلدان الودية (على سبيل المثال كندا ، بنما والدنمارك/غرينلاند) أو يضربهم بتعريفات عالية محظورة (الجميع) تنتج أي شيء آخر غير ارتفاع تكاليف الشحن التضخمي للشركات والمستهلكين الأمريكيين. ” – ديفيد جانتز