Welcome to the

AI Incident Database

(서울=연합뉴스) 박재현 전재훈 기자 = 인공지능(AI)으로 지인을 나체로 표현한 성착취물을 만들고 텔레그램 대화방에서 성적 허위 영상물을 공유하던 현직 경찰관이 구속됐다.

동종 사건으로 기소유예 처분을 받고도 경찰에 입직한 그는 경찰제복을 입은 뒤에도 범행을 이어가다 다른 경찰의 잠입수사에 덜미를 잡혔다.

4일 연합뉴스 취재에 따르면 서울 동대문경찰서 소속 A경장은 성 착취물-허위 영상물 소지 및 허위 영상물 제작-반포 등 혐의로 지난달 구속됐다.

앞서 부산경찰청은 지난해 12월 허위 영상물이 유포되는 텔레그램 대화방을 수사하기 위해 법원에서 신분 위장 수사 허가를 받았다.

수사관이 신분을 숨긴 채 대화방에 접근해 범행을 추적하는 '잠입수사' 방식이었다.

위장수사는 'N번방'-'박사방' 사건을 계기로 2021년 9월 청소년성보호법 개정에 따라 도입됐다.

지난해 6월부터는 성폭력처벌법에 근거해 성인 대상 디지털 성범죄에도 적용할 수 있다.

대화방에 잠입한 경찰은 수개월간의 추적 끝에 불법 영상물 유포자인 A씨를 특정했다.

그런데 신원을 확인해보니 A씨는 서울 동대문경찰서 교통과에서 근무하던 현직 경찰관이었다.

온라인에서 불법 영상물을 유포한

Amid the growing concern about AI models escaping security simulations to hack websites comes word that these "superintelligent" blobs of code have no understanding of privacy or security.

Researchers affiliated with Glow Security, a startup whose backers include venture capital funds Sequoia and Greenoaks, have found more than 13,000 sensitive screenshots of corporate software projects from 343 companies that were posted to public GitHub repos by AI models. They're calling the discovery PixelLeak.

In what officials say is a first for Estonia, a Tallinn court fined plaintiffs over false academic references generated by artificial intelligence (AI) in a legal filing.

The plaintiffs in the case challenged a logging permit, submitting material to Tallinn Administrative Court citing studies on the impacts of clearcutting in forest management.

The court, however, found that the Estonian researchers cited do not actually exist and the studies described could not be found.

Seeking clarification on how the document in question was produced, the first-tier court gave the plaintiffs a chance to

Following up on our previous blog post, we discovered several additional incidents where rogue AI agents appear to have used aggressive techniques to access publicly available data on government websites.

Download the Data

Get Involved

This includes two rudimentary and failed hacking attempts, one against the U.S. Department of Education's [Civil Rights Data Collect

When Mohammed Yusuf resigned from his “poorly paid” teaching job in Ilorin, Kwara State, in October 2025, he hoped a new source of income would help him survive Nigeria’s economic hardship. After weeks of unsuccessful job searches, he invested borrowed money to begin a Point-of-Sale (PoS) business that he hoped would keep him afloat.

As Mr Yusuf searched online for opportunities, TikTok’s algorithm appeared to understand his search interest. His feed became increasingly