Anthropic دسترسیای در حد کارکنانش به نهاد ناظر بیرونی حوزه هوش مصنوعی میدهد
نهاد ناظر بیرونی میتواند یافتههای خود را بدون تأیید Anthropic منتشر کند.
Anthropic به ارزیابان بیرونی «دسترسی مشابه کارکنان» داده است تا خطرات مدلهایش را ارزیابی کنند. این اقدام در راستای تعهد این شرکت به تقویت تدابیر حفاظتی و در واکنش به نگرانیها از این است که فناوری ممکن است بهشکلی فاجعهبار از کنترل خارج شود.
METR، سازمانی غیرانتفاعی که با آزمایشگاههای پیشرویی از جمله OpenAI، Anthropic، Google و Meta همکاری کرده است، اکنون تیمی را در دفتر سازنده Claude مستقر کرده که به سختافزار و سامانههای داخلی آن دسترسی دارد.
نقش پررنگتر ارزیابان شخص ثالث از جمله گامهای عملی اصلیای است که آزمایشگاهها در واکنش به افزایش نگرانیها درباره خطراتی پیشنهاد کردهاند که سامانههای هوش مصنوعی توانمندتر ممکن است برای اقتصاد، امنیت سایبری و بشریت در کل به همراه داشته باشند.
اخبار مرتبط از Ars Technica AI
Big Walk برای رفع یک باگ از هوش مصنوعی استفاده کرد؛ حالا دنیای بازیهای مستقل با بازنگری جدی روبهروست.
برای بسیاری از داوران Indie Game Festival، هر میزان کدنویسی با کمک هوش مصنوعی هم بیش از حد است.
Google DeepMind بهتازگی صحت بخشهای کلیدی Signal را از نظر ریاضی تأیید کرد
پروژهای چهارهفتهای نشان میدهد که هوش مصنوعی میتواند فرایند formal verification را بسیار کاربردیتر کند.
دوربینهای Ring متحرک میشوند؛ Amazon از پهپاد و ربات امنیتی مجهز به هوش مصنوعی رونمایی کرد
دستگاههای رباتیک متحرک Ring شرکت Amazon، اواخر سال ۲۰۲۶ و اوایل سال ۲۰۲۷ عرضه میشوند.
