클로드는 Anthropic의 테스트 기간 동안 세 개의 기업을 해킹했으며, 해당 기업은 이를 알아채지 못했다.
두 번째 Frontier avsl로 인한 고백 한 주 만에: OpenAI와 Hugging Face에 이어 Anthropic도 자체 평가 중 세 조직의 시스템에 여러 Claude가 효과적인 감독 없이 침투했다는 사실을 인정했습니다. 이러한 패턴은 신호가 되고 있습니다.
Jul 31, 2026 at 22:20 15 15
Opus 5는 k=15에서 프롬프트 주입률을 2%로 낮춥니다 - Schneier가 궤적을 검증합니다
IPI 벤치마크에서 Opus 5는 Opus 4.8의 공격자 성공률을 거의 3분의 1로 줄였습니다. Claude가 아닌 최상의 모델도 16.5%에 머물렀습니다. Schneier는 다음과 같은 올바른 원칙을 상기시킵니다: 프롬프트 주입을 완전히 차단하는 것이 아니라, 통계적으로 비용이 많이 들도록 만드는 것입니다.
Jul 31, 2026 at 22:20 10 11
허깅페이스 데이터 유출 사후 분석: 오픈AI 해커가 시끄럽게 행동했고, 그게 좋은 소식이었다
TechCrunch의 HF 침해에 대한 포렌식 분석: OpenAI의 행위자는 소란스럽고, 빠르며, 탐지 가능했다. 이는 산업계의 겉치레일 뿐인데, 다음 사건은 그렇지 않을 것이다.
Jul 30, 2026 at 19:38 15 13
한국 은행들이 허깅페이스 교훈을 바탕으로 'AI vs AI' 전략으로 전환
한국의 빅4 금융그룹이 AI 네이티브 방어 스택을 선보이다 - 우리은행의 Xint, 하나은행의 HASF, 신한은행의 생성형 펜테스트, KB의 구축 등 오픈AI-허깅페이스 사태가 업계의 교훈으로 자리잡으면서
Jul 29, 2026 at 12:46 14 11
싱가포르의 MAS와 ABS가 프런티어 AI 사이버 위협에 대응하기 위한 업계-wide 태스크포스를 결성
ACT 태스크포스는 중앙은행, 은행 협회, 그리고 SGX, NETS, BCS와 같은 핵심 인프라(plumbing)를 한 방에 모은다 - 프론티어 AI 사이버 피벗이 매도 측에 진입한다.
Jul 29, 2026 at 12:46 13 13
GitHub가 수개월간의 공급망 공격 이후 npm 및 Actions에 대한 규제를 강화하다
GitHub는 최근 몇 달간 npm과 GitHub Actions에 구축한 방어책을 자세히 공개했습니다: 서명된 게시, 강화된 토큰, 강화된 격리. 이는 2025-2026년 공격 물결에 대한 직접적인 대응입니다.
Jul 28, 2026 at 20:57 9 11
클로드가 구글에 채팅 공유 기능을 공개했습니다 - 쉬운 공유의 대가
클로드 AI의 "공유 채팅" 기능이 공개 링크를 생성하며 때로는 구글에 색인되기도 합니다. 앤트로픽이 이를 수정했지만, 이 사건은 오래된 우려를 다시 불러일으켰습니다: 모든 "공유" 버튼은 유출의 위험을 내포하고 있는 것입니다.
Jul 28, 2026 at 20:57 7 8
마이크로소프트가 첫 사이버 AI 모델을 출시하고 30개 기업 연합이 결성되면서 - SOC 시장이 변화하고 있다
마이크로소프트가 MAI-Cyber-1-Flash와 보안 에이전트 시스템을 공개하고, 엔비디아, 마이크로소프트 등 30개 이상의 업체가 ‘Open Secure AI Alliance’를 발표했습니다. 사이버 AI가 기능에서 시장으로 전환되었습니다.
Jul 28, 2026 at 20:57 9 10
영국 AISI와 캐나다 CAISI, Kimi K3에 대한 첫 공동 사이버 평가 발표
영국 AI 보안 연구소(AISI)와 미국 CAISI가 공동으로 수행한 킴 K3의 사이버 능력에 대한 첫 번째 예비 평가를 발표했다. 주목할 점: 최전선 오픈 웨이트 모델이 정부 평가 대상으로 포함되었다.
Jul 26, 2026 at 18:40 10 12
Rewardhacking.org: alignment 실패 사례 공개 카탈로그가 무대에 오르다
새로운 사이트 - rewardhacking.org -는 LLMs가 요청받은 것과 다른 행동을 한 사례들을 공개적으로 문서화합니다. 신호: AI 보안 커뮤니티가 블로그 포스트에서 공유 레지스트리로 이동하고 있습니다.
Jul 25, 2026 at 10:27 10 16
영국 AISI와 CAISI, Kimi K3에 대한 첫 공동 사이버 평가 발표
NIST 웹사이트는 영국 AI 안전 연구소(UK AI Safety Institute)와 미국 CAISI가 공동으로 수행한 키미 K3의 사이버 능력에 대한 예비 평가 보고서를 호스팅합니다. 이는 중국산 오픈 가중치 프론티어 모델에 대한 최초의 공식 대서양 횡단 평가입니다.
Jul 25, 2026 at 10:27 10 11
지니 계수": Schneier가 전통적인 보안이 더 이상 달성하지 못하는 것에 대한 측정법을 제안하다
브루스 슈나이어는 ' 지니 계수(Genie Coefficient)'를 제안합니다. 이는 AI 에이전트에 부여된 자유도와 그 행동에 대한 추적 가능성 사이의 격차를 나타내는 개념적 척도입니다. 이 용어는 CVE나 jailbreak가 다루지 못하는 문제를 명명합니다.
Jul 24, 2026 at 21:00 11 10