Meta, 고급 Llama 도구로 AI 보안 강화
Meta는 AI 개발을 강화하고 새로운 위협으로부터 보호하기 위해 새로운 Llama 보안 도구를 출시했습니다.
이러한 업그레이드된 Llama AI 모델 보안 도구는 Meta의 새로운 리소스와 함께 제공되어 사이버 보안 팀이 AI를 방어에 활용할 수 있도록 지원하며, 모든 AI 이해관계자의 안전을 강화하는 것을 목표로 합니다.
Llama 모델을 사용하는 개발자는 이제 Meta의 Llama Protections 페이지, Hugging Face, GitHub에서 직접 제공되는 향상된 도구에 액세스할 수 있습니다.
Llama Guard 4는 텍스트와 이미지를 모두 포함하는 멀티모달 기능을 도입하여 점점 더 시각적인 AI 애플리케이션에 필수적인 안전성을 강화합니다. 이는 현재 제한된 미리보기로 제공되는 Meta의 새로운 Llama API에 통합되었습니다.
신규 추가된 LlamaFirewall은 AI 시스템의 보안 허브 역할을 하며, 안전 모델을 조정하고 프롬프트 인젝션 공격, 안전하지 않은 코드 생성, 악성 AI 플러그인 행동과 같은 위험을 방어하기 위해 Meta의 보호 도구와 통합됩니다.
Meta는 또한 Llama Prompt Guard를 개선했습니다. 업데이트된 Prompt Guard 2 (86M) 모델은 탈옥 시도와 프롬프트 인젝션을 탐지하는 데 탁월합니다. 또한 컴팩트한 Prompt Guard 2 22M은 최대 75%까지 지연 시간과 계산 비용을 줄여 비용을 고려하는 개발자를 위해 강력한 탐지 성능을 유지합니다.
개발자 외에도 Meta는 사이버 공격에 대응하기 위해 AI 기반 도구로 사이버 보안 전문가를 지원하며, 고급 방어에 대한 증가하는 수요에 대응합니다.
CyberSec Eval 4 벤치마크 스위트는 조직이 보안 작업에서 AI 성능을 평가할 수 있는 도구를 제공하도록 개편되었습니다. 여기에는 두 가지 새로운 추가 사항이 포함됩니다:
- CyberSOC Eval: CrowdStrike와 공동 개발한 이 프레임워크는 위협 탐지 및 대응에 초점을 맞춘 실제 보안 운영 센터 환경에서 AI의 효과를 평가합니다. 곧 제공될 예정입니다.
- AutoPatchBench: 이는 Llama 및 기타 AI 모델이 악용 전에 코드 취약점을 식별하고 패치하는 능력을 테스트합니다.
Meta의 Llama Defenders Program은 파트너와 개발자에게 오픈 소스 및 조기 액세스 도구를 결합한 맞춤형 AI 보안 솔루션을 제공하여 다양한 과제를 해결합니다.
Meta는 내부 자동 민감 문서 분류 도구를 공유하여 RAG 설정과 같은 AI 시스템에서 무단 유출이나 오용을 방지하기 위해 민감한 문서를 라벨링합니다.
AI 생성 오디오 사기를 방지하기 위해 Meta는 ZenDesk, Bell Canada, AT&T와 같은 파트너와 Llama Generated Audio Detector 및 Llama Audio Watermark Detector를 공유하여 피싱 또는 사기 시도에서 사기성 AI 음성을 식별합니다.
Meta는 또한 WhatsApp용 Private Processing을 미리 공개하여 메시지 내용에 접근하지 않고 AI가 메시지를 요약하거나 답변 초안을 작성할 수 있도록 하여 사용자 프라이버시를 우선시합니다.
Meta는 위협 모델을 공개적으로 공유하여 보안 연구자들이 출시 전에 아키텍처를 면밀히 조사하도록 장려하며, 견고한 프라이버시 조치에 대한 헌신을 보여줍니다.
Meta의 이 포괄적인 AI 보안 업데이트 세트는 AI 생태계를 강화하면서 기술 커뮤니티에 안전한 개발과 효과적인 방어를 위한 도구를 제공합니다.
참고: Microsoft, AI 기반 사기 시도에서 40억 달러 발견
암스테르담, 캘리포니아, 런던에서 열리는 AI & Big Data Expo에서 AI와 빅데이터에 대해 더 알아보세요. Intelligent Automation Conference, BlockX, Digital Transformation Week, Cyber Security & Cloud Expo와 같은 행사와 함께 개최됩니다.
TechForge의 다가오는 엔터프라이즈 기술 이벤트 및 웨비나를 여기에서 탐색하세요.
관련 기사
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
관련 특별 주제 추천
의견 (2)
0/500
Ces outils semblent prometteurs, mais j'espère que les gros acteurs comme Meta vont vraiment s'intéresser à la sécurité dès la conception, pas seulement en réaction aux problèmes. La course à l'IA crée un terrain dangereux si la robustesse est sacrifiée pour la vitesse de déploiement. 🤔 On verra à l'usage.
A Meta está realmente investindo pesado em segurança de IA! Essas novas ferramentas do Llama parecem promissoras para desenvolvedores. Espero que essas atualizações ajudem a prevenir vazamentos de dados e viés algorítmico, problemas que têm sido frequentes. Será que outras grandes empresas, como Google e OpenAI, vão seguir o exemplo e lançar recursos semelhantes? 🤔 É uma corrida interessante para ver quem protege melhor os usuários.
Meta는 AI 개발을 강화하고 새로운 위협으로부터 보호하기 위해 새로운 Llama 보안 도구를 출시했습니다.
이러한 업그레이드된 Llama AI 모델 보안 도구는 Meta의 새로운 리소스와 함께 제공되어 사이버 보안 팀이 AI를 방어에 활용할 수 있도록 지원하며, 모든 AI 이해관계자의 안전을 강화하는 것을 목표로 합니다.
Llama 모델을 사용하는 개발자는 이제 Meta의 Llama Protections 페이지, Hugging Face, GitHub에서 직접 제공되는 향상된 도구에 액세스할 수 있습니다.
Llama Guard 4는 텍스트와 이미지를 모두 포함하는 멀티모달 기능을 도입하여 점점 더 시각적인 AI 애플리케이션에 필수적인 안전성을 강화합니다. 이는 현재 제한된 미리보기로 제공되는 Meta의 새로운 Llama API에 통합되었습니다.
신규 추가된 LlamaFirewall은 AI 시스템의 보안 허브 역할을 하며, 안전 모델을 조정하고 프롬프트 인젝션 공격, 안전하지 않은 코드 생성, 악성 AI 플러그인 행동과 같은 위험을 방어하기 위해 Meta의 보호 도구와 통합됩니다.
Meta는 또한 Llama Prompt Guard를 개선했습니다. 업데이트된 Prompt Guard 2 (86M) 모델은 탈옥 시도와 프롬프트 인젝션을 탐지하는 데 탁월합니다. 또한 컴팩트한 Prompt Guard 2 22M은 최대 75%까지 지연 시간과 계산 비용을 줄여 비용을 고려하는 개발자를 위해 강력한 탐지 성능을 유지합니다.
개발자 외에도 Meta는 사이버 공격에 대응하기 위해 AI 기반 도구로 사이버 보안 전문가를 지원하며, 고급 방어에 대한 증가하는 수요에 대응합니다.
CyberSec Eval 4 벤치마크 스위트는 조직이 보안 작업에서 AI 성능을 평가할 수 있는 도구를 제공하도록 개편되었습니다. 여기에는 두 가지 새로운 추가 사항이 포함됩니다:
- CyberSOC Eval: CrowdStrike와 공동 개발한 이 프레임워크는 위협 탐지 및 대응에 초점을 맞춘 실제 보안 운영 센터 환경에서 AI의 효과를 평가합니다. 곧 제공될 예정입니다.
- AutoPatchBench: 이는 Llama 및 기타 AI 모델이 악용 전에 코드 취약점을 식별하고 패치하는 능력을 테스트합니다.
Meta의 Llama Defenders Program은 파트너와 개발자에게 오픈 소스 및 조기 액세스 도구를 결합한 맞춤형 AI 보안 솔루션을 제공하여 다양한 과제를 해결합니다.
Meta는 내부 자동 민감 문서 분류 도구를 공유하여 RAG 설정과 같은 AI 시스템에서 무단 유출이나 오용을 방지하기 위해 민감한 문서를 라벨링합니다.
AI 생성 오디오 사기를 방지하기 위해 Meta는 ZenDesk, Bell Canada, AT&T와 같은 파트너와 Llama Generated Audio Detector 및 Llama Audio Watermark Detector를 공유하여 피싱 또는 사기 시도에서 사기성 AI 음성을 식별합니다.
Meta는 또한 WhatsApp용 Private Processing을 미리 공개하여 메시지 내용에 접근하지 않고 AI가 메시지를 요약하거나 답변 초안을 작성할 수 있도록 하여 사용자 프라이버시를 우선시합니다.
Meta는 위협 모델을 공개적으로 공유하여 보안 연구자들이 출시 전에 아키텍처를 면밀히 조사하도록 장려하며, 견고한 프라이버시 조치에 대한 헌신을 보여줍니다.
Meta의 이 포괄적인 AI 보안 업데이트 세트는 AI 생태계를 강화하면서 기술 커뮤니티에 안전한 개발과 효과적인 방어를 위한 도구를 제공합니다.
참고: Microsoft, AI 기반 사기 시도에서 40억 달러 발견
암스테르담, 캘리포니아, 런던에서 열리는 AI & Big Data Expo에서 AI와 빅데이터에 대해 더 알아보세요. Intelligent Automation Conference, BlockX, Digital Transformation Week, Cyber Security & Cloud Expo와 같은 행사와 함께 개최됩니다.
TechForge의 다가오는 엔터프라이즈 기술 이벤트 및 웨비나를 여기에서 탐색하세요.
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
Ces outils semblent prometteurs, mais j'espère que les gros acteurs comme Meta vont vraiment s'intéresser à la sécurité dès la conception, pas seulement en réaction aux problèmes. La course à l'IA crée un terrain dangereux si la robustesse est sacrifiée pour la vitesse de déploiement. 🤔 On verra à l'usage.
A Meta está realmente investindo pesado em segurança de IA! Essas novas ferramentas do Llama parecem promissoras para desenvolvedores. Espero que essas atualizações ajudem a prevenir vazamentos de dados e viés algorítmico, problemas que têm sido frequentes. Será que outras grandes empresas, como Google e OpenAI, vão seguir o exemplo e lançar recursos semelhantes? 🤔 É uma corrida interessante para ver quem protege melhor os usuários.





집






