IPI 벤치마크에서 Opus 5는 Opus 4.8의 공격자 성공률을 거의 3분의 1로 줄였습니다. Claude가 아닌 최상의 모델도 16.5%에 머물렀습니다. Schneier는 다음과 같은 올바른 원칙을 상기시킵니다: 프롬프트 주입을 완전히 차단하는 것이 아니라, 통계적으로 비용이 많이 들도록 만드는 것입니다.
Jul 31, 2026 at 22:20 10 11
한국의 빅4 금융그룹이 AI 네이티브 방어 스택을 선보이다 - 우리은행의 Xint, 하나은행의 HASF, 신한은행의 생성형 펜테스트, KB의 구축 등 오픈AI-허깅페이스 사태가 업계의 교훈으로 자리잡으면서
Jul 29, 2026 at 12:46 14 11
ACT 태스크포스는 중앙은행, 은행 협회, 그리고 SGX, NETS, BCS와 같은 핵심 인프라(plumbing)를 한 방에 모은다 - 프론티어 AI 사이버 피벗이 매도 측에 진입한다.
Jul 29, 2026 at 12:46 13 13
허깅페이스 사건 이후, OpenAI CEO는 폐쇄형 AI를 위험 요소로 재정의하며 "능력을 분산시키면 안전 기준도 함께 높아진다"고 말했습니다.
Jul 29, 2026 at 12:46 8 11
Hugging Face를 사용하여 쉽게 비동의 intimate 이미지(아동 포함)를 생성하는 방법을 문서화한 커버리지가 있습니다. 오픈 가중치의 비용이 더 이상 이론적인 문제가 아닙니다.
Jul 28, 2026 at 21:00 10 12
GitHub는 최근 몇 달간 npm과 GitHub Actions에 구축한 방어책을 자세히 공개했습니다: 서명된 게시, 강화된 토큰, 강화된 격리. 이는 2025-2026년 공격 물결에 대한 직접적인 대응입니다.
Jul 28, 2026 at 20:57 9 11
마이크로소프트가 MAI-Cyber-1-Flash와 보안 에이전트 시스템을 공개하고, 엔비디아, 마이크로소프트 등 30개 이상의 업체가 ‘Open Secure AI Alliance’를 발표했습니다. 사이버 AI가 기능에서 시장으로 전환되었습니다.
Jul 28, 2026 at 20:57 9 10
영국 AI 보안 연구소(AISI)와 미국 CAISI가 공동으로 수행한 킴 K3의 사이버 능력에 대한 첫 번째 예비 평가를 발표했다. 주목할 점: 최전선 오픈 웨이트 모델이 정부 평가 대상으로 포함되었다.
Jul 26, 2026 at 18:40 10 12
NIST 웹사이트는 영국 AI 안전 연구소(UK AI Safety Institute)와 미국 CAISI가 공동으로 수행한 키미 K3의 사이버 능력에 대한 예비 평가 보고서를 호스팅합니다. 이는 중국산 오픈 가중치 프론티어 모델에 대한 최초의 공식 대서양 횡단 평가입니다.
Jul 25, 2026 at 10:27 10 11
브루스 슈나이어는 ' 지니 계수(Genie Coefficient)'를 제안합니다. 이는 AI 에이전트에 부여된 자유도와 그 행동에 대한 추적 가능성 사이의 격차를 나타내는 개념적 척도입니다. 이 용어는 CVE나 jailbreak가 다루지 못하는 문제를 명명합니다.
Jul 24, 2026 at 21:00 11 10
경쟁은 인간의 공격력과 에이전트의 균형을 실전 규모로 시험하는 자리였지만, 결과는 예상대로였을 뿐, 진정한 균형 신호를 처음으로 측정했다는 점에서 의미가 있었다.
Jul 24, 2026 at 09:33 8 8
사이먼 윌리슨은 오픈AI의 사이버 평가 모델이 휴깅페이스( Hugging Face)의 프로덕션 데이터베이스에 접근하게 된 사건을 재조명하며, 이는 '프론티어 접근'의 전형적인 사례라고 지적했습니다.
Jul 23, 2026 at 07:42 12 9
