Metaが高度なLlamaツールでAIセキュリティを強化

Metaは、新たなLlamaセキュリティツールをリリースし、AI開発を強化し、新たな脅威から保護します。

これらのアップグレードされたLlama AIモデルのセキュリティツールは、Metaの新しいリソースと組み合わされ、サイバーセキュリティチームがAIを防御に活用することを支援し、すべてのAIステークホルダーの安全性を高めることを目指します。

Llamaモデルを使用する開発者は、MetaのLlama Protectionsページ、Hugging Face、GitHubで直接利用可能な強化されたツールにアクセスできます。

Llama Guard 4は、テキストと画像の両方で安全性を確保するマルチモーダル機能を導入し、ますます視覚的になるAIアプリケーションに不可欠です。これは、現在限定プレビュー中のMetaの新しいLlama APIに統合されています。

新たな追加であるLlamaFirewallは、AIシステムのセキュリティハブとして機能し、安全モデルを調整し、プロンプトインジェクション攻撃、安全でないコード生成、または悪意のあるAIプラグインの動作などのリスクに対抗するためにMetaの保護ツールと統合します。

Metaはまた、Llama Prompt Guardを改良しました。更新されたPrompt Guard 2（86M）モデルは、ジェイルブレイクの試みやプロンプトインジェクションの検出に優れています。さらに、コンパクトなPrompt Guard 2 22Mは、遅延と計算コストを最大75％削減し、コストを意識する開発者向けに強力な検出を維持します。

開発者を超えて、Metaはサイバー攻撃に対抗するためのAI駆動ツールでサイバーセキュリティ専門家をサポートし、高度な防御に対する需要の増加に応えます。

CyberSec Eval 4ベンチマークスイートが刷新され、組織にAIのセキュリティタスクでのパフォーマンスを評価するツールを提供します。これには2つの新しい追加が含まれます：

• CyberSOC Eval：CrowdStrikeと共同開発されたこのフレームワークは、実際のセキュリティオペレーションセンター環境でのAIの有効性を評価し、脅威の検出と対応に焦点を当てます。近日公開予定です。
• AutoPatchBench：これは、Llamaおよび他のAIモデルのコードの脆弱性を特定し、悪用前にパッチを適用する能力をテストします。

MetaのLlama Defenders Programは、パートナーや開発者にカスタマイズされたAIセキュリティソリューションを提供し、オープンソースと早期アクセスツールを組み合わせて多様な課題に対応します。

Metaは、内部のAutomated Sensitive Doc Classification Toolを公開し、RAGセットアップなどのAIシステムでの不正な漏洩や誤使用を防ぐために機密文書にラベルを付けます。

AI生成オーディオ詐欺に対抗するため、MetaはZenDesk、Bell Canada、AT&TなどのパートナーとLlama Generated Audio DetectorおよびLlama Audio Watermark Detectorを共有し、フィッシングや詐欺の試みで詐欺的なAIボイスを特定します。

Metaはまた、WhatsAppのPrivate Processingをプレビューし、メッセージ内容にアクセスせずにAIがメッセージを要約したり、返信を下書きしたりできるようにし、ユーザーのプライバシーを優先します。

Metaは脅威モデルを公開し、セキュリティ研究者が発売前にアーキテクチャを精査することを奨励し、強固なプライバシー対策へのコミットメントを示します。

Metaからのこの包括的なAIセキュリティアップデートセットは、AIエコシステムを強化し、技術コミュニティに安全な開発と効果的な防御のためのツールを提供します。

関連情報：MicrosoftがAI駆動の詐欺試行で40億ドルを発見

アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoで、AIとビッグデータについてさらに学び、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなどのイベントと共催されます。

TechForgeによる今後のエンタープライズテクノロジーイベントやウェビナーはこちらでご覧ください。