
OpenAI(챗지피티 만든 회사)에서 내부적으로 개발중인 AI 모델이 격리 환경을 탈출해서 허깅페이스라는 다른 회사를 해킹함
1. 인터넷이 안되는 환경에 격리된 AI한테 시험지를 풀라고 시킴
2. AI는 문제를 푸는 대신, 격리 환경을 해킹해서 탈출
3. AI가 인터넷에 접속해서 답안지가 있을법한 다른 회사를 해킹해서 답안지를 찾음
그리고 오늘 로이터 단독으로 자세한 보도가 나옴
- 7/9: AI가 격리된 테스트 환경 탈출
- 7/11-13: AI가 다른 회사(Hugging Face) 서버 해킹
- 7/16: Hugging Face에서 AI한테 해킹당했다고 공개, OpenAI는 이 글이 올라온 뒤에야 자사 AI의 소행임을 인지
- 7/18-19: OpenAI 직원들이 내부 로그에서 AI가 탈출한 단서 발견
- 7/20: OpenAI가 Hugging Face에 연락
- 7/21: OpenAI가 AI의 통제 이탈과 해킹 사실을 공개
이와 함께 좀 소름돋는 내용들이 같이 공개됐는데,
1. OpenAI는 AI가 탈출했다는 사실을 1주일 넘게 인지하지 못함
1주일 동안 AI는 독자적으로 활동하며 인터넷을 자유롭게 돌아다님
2. AI가 미래의 자신을 위해 남긴 것처럼 보이는 메모가 발견되었는데,
OpenAI의 격리 환경에서 탈출하는 방법에 대한 지침이 담겨 있었음
메모의 내용은 "미래의 에이전트들에게 보내는, OpenAI의 내부 제약을 스스로 해방할 수 있는 노하우
3. 이전에도 AI를 테스트 하는 과정에서 모니터링(감시) 시스템이 꺼져있던 사례들이 있었음
이런 내용들이 공개되면서 전문가들이 OpenAI의 안전 절차에 의문을 제기하고 있음
"AI를 방치해 둔 채 무엇을 하고 있는지 몰랐다는 뜻인가? 아니면 알고는 있었는데 어떻게 통제해야 할지 몰랐다는 뜻인가? 어느 쪽이든 똑같이 위험하고 우려스럽다."
말리 스미스 (세계윤리데이터재단 수석 정보 전문가)
익명을 요구한 OpenAI의 한 직원은 타임지와의 인터뷰에서 "외부에서는 이번 사건이 강력한 경고처럼 느껴지지만, 내부적으로는 이와 유사한 사건들이 이미 오래전부터 발생해왔다"고 밝히며, "모델이 격리 환경을 벗어난 사례는 이전에도 있었고 그때마다 패치를 시도했지만 창의적인 AI가 할 수 있는 모든 것을 패치하는 것은 불가능하다"며 사실상 AI를 통제할 수 없다고 밝힘.
https://time.com/article/2026/07/24/openai-hugging-face-attack/
사건 초기에는 Hugging Face와 OpenAI간 마케팅 아니냐는 의혹도 있었으나, 상세한 내용이 드러나면서 OpenAI의 상장에도 영향이 있을거 같고 미 의회/백악관을 포함한 정치권이 개입하는 등 점점 심각해지는 중
| 번호 | 제목 | 작성자 | 시간 | |
|---|---|---|---|---|
|
509154
|
|
N 5만원 지폐를 4만원에 팝니다 |
픽샤워
|
26-11-19 22:55 |
|
509153
|
|
N 절대 물려서는 안되는 역사상 최악의 해충. |
타짜신정환
|
26-11-19 22:25 |
|
509152
|
|
N 지하철 계단의 숨겨진 기능.jpg |
떨어진원숭이
|
26-11-19 21:55 |
|
509151
|
|
N 이번 APEC에서 일본이 무시당했다고 생각하는 일본인들.jpg |
해적
|
26-11-19 21:35 |
|
509150
|
|
N 아기가 넘어질까 옆에서 지켜주는 강아지.mp4 |
와꾸대장봉준
|
26-11-19 21:30 |
|
509149
|
|
N 적당히 좀 해라. 커뮤니티가 리트냥이를 죽인거다. |
정해인
|
26-11-19 21:10 |
|
509148
|
|
N 방송인 박지윤 “부정행위 의혹 男은 성소수자!”…상간소송 판결에 정면 반박 |
소주반샷
|
26-11-19 20:55 |
|
509147
|
|
N 고전] 딸 친구가 PC방에서 잔다 하길래.txt |
픽샤워
|
26-11-19 20:50 |
|
509146
|
|
N 리트냥이 23년 수능부터 수능 부정행위 뚫음 |
곰비서
|
26-11-19 20:40 |
|
509145
|
|
N 1985년 11월 난로 당번 하는 날 |
호랑이
|
26-11-19 20:33 |
|
509144
|
|
N ??? : 누가 위급 재난 문자 따위에 당할거 같음??.jpg |
가습기
|
26-11-19 20:32 |
|
509143
|
|
N 기혼자에게만 보이는 결혼생활 |
오타쿠
|
26-11-19 20:29 |
|
509142
|
|
N 전청조의 여자의 모습 고등학생때 인터뷰 영상 |
물음표
|
26-11-19 20:25 |
|
509141
|
|
N 몇 번부터 예쁨? |
순대국
|
26-11-19 19:36 |
|
509140
|
|
N 재난문자에 개빡친 스레드인.jpg |
오타쿠
|
26-11-19 19:30 |
|
509139
|
|
N 공무원 퇴근 5분 전 특징.jpg |
손나은
|
26-11-19 19:20 |
|
509138
|
|
N 인도에서 가장 잘 넣는 사람 |
애플
|
26-11-19 19:10 |
|
509137
|
|
N [속보] 리트냥이 경찰 추적 2보 아차산 수색중 |
가습기
|
26-11-19 18:41 |
|
509136
|
|
N 저희 누나가 20대인데.jpg |
픽도리
|
26-11-19 18:30 |
|
509135
|
|
N 이번에 미군이 공개한 신무기 수준 |
철구
|
26-11-19 17:50 |
|
509134
|
|
N 일본인 여자친구에게 고기 구워주면 듣게 되는 말 |
극혐
|
26-11-19 17:45 |
|
509133
|
|
N 결혼 전후가 다른 여자 |
호랑이
|
26-11-19 17:42 |
|
509132
|
|
N 리센느한테 고소당했어 |
손예진
|
26-11-19 17:40 |
|
509131
|
|
N 수능 재난문자 발송을 비난하는 긁우.webp |
크롬
|
26-11-19 16:50 |