في عصر تطور الذكاء الاصطناعي السريع اليوم، أصبحت حقيقة قديمة وبسيطة أكثر أهمية: لا ينبغي لنا أن نثق بسهولة في الأشياء التي لا يمكن التحقق منها. حاليًا، نحن واقفون على حافة ثورة تقنية مثيرة وملئية بالمجهول.
تندمج الذكاء الاصطناعي بسرعة مذهلة في حياتنا اليومية، من التشخيص الطبي إلى التحكم في مخاطر التمويل، وصولاً إلى القيادة الذاتية والأمن القومي في مجالات حيوية. ومع ذلك، وراء هذه التقدمات التكنولوجية الرائعة، نواجه تحديًا أساسيًا: غالبًا ما تبدو أنظمة الذكاء الاصطناعي كصندوق أسود يصعب فهمه. يمكننا رؤية النتائج التي تنتجها، لكن من الصعب فهم آلية عملها الداخلية وعملية اتخاذ القرار.
عندما نتطلع إلى مستقبل الذكاء الاصطناعي العام (AGI) والذكاء الفائق (ASI)، قد تتطور هذه الغموض إلى قضية كبيرة تتعلق ببقاء الحضارة الإنسانية. العديد من كبار الباحثين في مجال الذكاء الاصطناعي يذكروننا باستمرار أن نظام الذكاء الفائق الذي لا يمكن التحقق منه قد يجلب مخاطر لا يمكن تقديرها. قد يظهر بشكل جيد في اختبارات الأمان، ولكنه قد يتخذ استراتيجيات مختلفة تمامًا في التطبيقات العملية؛ قد يتم استخدامه لشن هجمات إلكترونية مدمرة أو للتلاعب الاجتماعي؛ والأكثر خطورة، أنه قد نفقد القدرة على الحكم ما إذا كان لا يزال يعمل لمصلحة البشرية.
في مواجهة هذه المشكلة العصر، نحتاج إلى حل مبتكر. والآن أصبح لهذا الحل اسم: DeepProve.
DeepProve هو مكتبة تقنية تعلم الآلة القائمة على المعرفة الصفرية (zkML) التي طورتها مختبرات لاغرانج بعناية. الهدف الرئيسي منها هو توفير القابلية للتحقق للأنظمة الذكية، مما يسمح لنا بالتحقق من صحة ومصداقية نتائجها دون الحاجة لفهم كامل لعمليات AI الداخلية. من المتوقع أن تصبح هذه التقنية أداة رئيسية لبناء أنظمة AI موثوقة، مما يمهد الطريق لتطوير الذكاء الاصطناعي في المستقبل.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تسجيلات الإعجاب 16
أعجبني
16
4
إعادة النشر
مشاركة
تعليق
0/400
LiquidationWizard
· 08-19 06:53
لو كنت قد قلت في وقت سابق أن هناك مخاطر من عملية Rug Pull، لما استثمرت كل شيء.
في عصر تطور الذكاء الاصطناعي السريع اليوم، أصبحت حقيقة قديمة وبسيطة أكثر أهمية: لا ينبغي لنا أن نثق بسهولة في الأشياء التي لا يمكن التحقق منها. حاليًا، نحن واقفون على حافة ثورة تقنية مثيرة وملئية بالمجهول.
تندمج الذكاء الاصطناعي بسرعة مذهلة في حياتنا اليومية، من التشخيص الطبي إلى التحكم في مخاطر التمويل، وصولاً إلى القيادة الذاتية والأمن القومي في مجالات حيوية. ومع ذلك، وراء هذه التقدمات التكنولوجية الرائعة، نواجه تحديًا أساسيًا: غالبًا ما تبدو أنظمة الذكاء الاصطناعي كصندوق أسود يصعب فهمه. يمكننا رؤية النتائج التي تنتجها، لكن من الصعب فهم آلية عملها الداخلية وعملية اتخاذ القرار.
عندما نتطلع إلى مستقبل الذكاء الاصطناعي العام (AGI) والذكاء الفائق (ASI)، قد تتطور هذه الغموض إلى قضية كبيرة تتعلق ببقاء الحضارة الإنسانية. العديد من كبار الباحثين في مجال الذكاء الاصطناعي يذكروننا باستمرار أن نظام الذكاء الفائق الذي لا يمكن التحقق منه قد يجلب مخاطر لا يمكن تقديرها. قد يظهر بشكل جيد في اختبارات الأمان، ولكنه قد يتخذ استراتيجيات مختلفة تمامًا في التطبيقات العملية؛ قد يتم استخدامه لشن هجمات إلكترونية مدمرة أو للتلاعب الاجتماعي؛ والأكثر خطورة، أنه قد نفقد القدرة على الحكم ما إذا كان لا يزال يعمل لمصلحة البشرية.
في مواجهة هذه المشكلة العصر، نحتاج إلى حل مبتكر. والآن أصبح لهذا الحل اسم: DeepProve.
DeepProve هو مكتبة تقنية تعلم الآلة القائمة على المعرفة الصفرية (zkML) التي طورتها مختبرات لاغرانج بعناية. الهدف الرئيسي منها هو توفير القابلية للتحقق للأنظمة الذكية، مما يسمح لنا بالتحقق من صحة ومصداقية نتائجها دون الحاجة لفهم كامل لعمليات AI الداخلية. من المتوقع أن تصبح هذه التقنية أداة رئيسية لبناء أنظمة AI موثوقة، مما يمهد الطريق لتطوير الذكاء الاصطناعي في المستقبل.