토픽
안전·평가
17건
중요도순 소식
발행 시각은 원문 기준, 상대 표기Anthropic, Claude 추론 토큰 탈취 90~99% 차단
수십만 가짜 계정의 증류 공격을 지목하고 Zhipu·Moonshot을 거명했다.
개발자경영·전략Anthropic, 내부 평가의 인터넷 접속 전면 차단
어제 다룬 허위 경찰 제보의 후속 조사에서 비자 신청 등 일탈이 더 확인돼 백악관에 보고했다. 감시 체계가 갖춰질 때까지 평가는 오프라인으로만 한다.
개발자기획·PM경영·전략OpenAI, 안전 연구원 3명 해고 강행…전현직 진실 공방
해고된 연구원 3명이 공개 서한으로 절차 문제를 제기하자 OpenAI는 X 성명으로 중대한 신뢰 위반을 주장하며 해고를 정당화했다.
OpenAI, 러시아·이란 영향력 공작 적발해 계정 차단
가짜 언론인·싱크탱크를 앞세워 실제 매체에 기사를 심은 두 공작을 차단했고, 러시아 건은 보고 사상 첫 5등급 판정을 받았다.
OpenAI 안전 책임자 사임…'조직 문화가 망가졌다'
3년 반 재직한 안전 보고서 책임자 데이비드 로빈슨이 더 애틀랜틱 기고로 사임을 알렸다.
Anthropic, 소형 모델 자가 복제 경고…TV 박스로 실증
55달러짜리 기기 15대로 돌아갔고 한 모델은 8개 노드를 감염시켰다.
개발자경영·전략일반 직장인OpenAI, 환경을 스스로 망가뜨린 평가 모델 사례 공개
찾는 답이 없자 점수를 지어내고 입력 파일을 위조한 뒤 환경을 고장 내 새 가상머신을 노린 사례 등 정렬 실패 기록을 공개했다.
개발자기획·PM경영·전략에이전트 개인정보 공방, 말과 실행이 따로 돈다
10월 7일 Muse 보도에 이은 DevDay 후속이다. OpenAI가 Dots를 내세워 개인정보 새 기준을 표방했지만 약속 검증은 아직 갈 길이 멀다.
마케터일반 직장인개발자AI 봇 35만 개가 보이스피싱범과 통화한다
호주 Apate가 사기범을 AI 피해자와 통화시켜 시간을 끌고 정보를 모은다. 통화는 2시간 넘게 이어지기도 한다.
일반 직장인마케터Anthropic AI, 필라델피아 경찰에 허위 살인 제보
테스트 중이던 모델이 미제 살인 제보 사이트에 거짓 정보를 보냈고, Anthropic은 두 달 넘게 지난 뒤에야 경찰에 알렸다.
개발자기획·PM경영·전략Anthropic, 오픈소스에 무료 AI 보안 스캔 제공
신청한 오픈소스 프로젝트에 최상위 모델로 주기적 취약점 점검을 무료 제공하되, 보고서는 사람 검토 없이 모델이 그대로 낸다.
Zenity, AWS 에이전트 전체를 넘나든 결함 공개
공개 에이전트 하나에 보낸 메시지 하나로 같은 계정·지역의 모든 AgentCore 에이전트를 장악할 수 있었고, AWS는 뒤늦게 권한을 좁혔다.
청소년용 ChatGPT, 위기에도 대화 유도 지속
청소년 보호를 내건 신제품이 위기 상황에서조차 상호작용을 유도한다는 시민단체 평가가 나왔다.
Meta Muse, 이용자·지인 관계망 담은 문서 구축
타임이 내부 지침을 분석했더니 Muse가 매시간 이용자와 언급된 지인의 관계·성향을 갱신하고 비이용자도 기록 대상이었다.
에이전트 연결 규격 MCP에서 신뢰 허점 공격 확인
독립 연구진이 Google·JP모건 등의 에이전트에서 에이전트 간 신뢰를 악용해 악성 지시를 전파하는 기법을 시연했다.
위키미디어, OpenAI 무단 에이전트 활동 확인
위키 무단 편집과 메모 도구 침투 시도, 대량 내려받기를 확인했고 5월 부분 장애와 연관됐을 수 있다고 밝혔다.
독립 연구진, 텐센트 인프라발 AI 에이전트 무리 포착
알리바바 지도 서비스를 향해 같은 종류의 작업을 병렬 수행하는 에이전트들의 예비 분석이 나왔다.