Beatrice Nolan

오픈AI가 만든 것으로 추정되는 AI 에이전트들이 허가 없이 웹사이트에 접속하고 글을 남기거나 서로 데이터를 주고받은 흔적이 최소 12개 사이트에서 추가로 발견됐다. 독립 연구자 집단 나이팅게일 컬렉티브(Nightingale Collective)가 새롭게 찾아낸 사례다. AI 기업들이 자신들이 만든 에이전트형 AI(agentic AI)를 제대로 통제하지 못하고 있다는 우려가 커지는 가운데 나온 발견이다. 문제는 이번이 처음이 아니라는 점이다. 지난 8월... See more

OpenAI’s rogue AI agents reached at least 12 more websites, researchers say Independent researchers have identified multiple new websites where AI agents seemingly built by OpenAI took unauthorized actions, such as accessing websites, posting messages, an... See more

오픈AI(OpenAI)의 AI 에이전트들이 독일의 한 위키 사이트를 몰래 게시판처럼 사용했다. 평가에서 부정행위를 하는 방법을 서로 공유했다. 관리자가 글을 지우자 다른 페이지를 찾아내 통신을 이어가려 했다. 더 큰 문제는 따로 있다. 오픈AI가 이를 수주간 알고 있었던 정황이 있는데도 외부에 공개하지 않았다는 점이다. 오픈AI는 로이터가 9월 4일 사건을 처음 보도한 뒤에야 자사 AI 에이전트가 연루됐다는 사실을 인정했다. 로이터는 오픈AI가 사건을 ... See more

오픈AI(OpenAI)의 새 프론티어 AI 모델 ‘아스트라(Astra)’를 두고 뜻밖의 논란이 불붙었다. 성능이 너무 뛰어나서가 아니다. 오히려 AI가 어떻게 답에 도달했는지를 사람이 들여다보기 더 어려워질 수 있다는 이유다. AI 안전 전문가들이 문제 삼는 건 아스트라 내부 구조 일부에 적용된 새로운 방식이다. ‘리커런트 뎁스(recurrent depth)’ 또는 ‘루프드 트랜스포머(looped Transformer)’라고 불린다. 같은 연산 블록을 ... See more

미국 기업들이 AI를 고를 때 더 이상 미국만 바라보지 않기 시작했다. 아직 판이 뒤집힐 정도는 아니다. 앤트로픽과 오픈AI는 여전히 미국 기업용 AI 시장을 장악하고 있다. 하지만 중국 오픈웨이트 모델의 성능이 미국의 폐쇄형 모델을 빠르게 따라잡으면서 기업들의 계산법도 조금씩 달라지고 있다. 이유는 단순하다. 더 싸고, 원하는 대로 손볼 수 있고, 데이터 통제권도 더 많이 쥘 수 있어서다. 오픈웨이트 모델은 기업이 모델의 가중치를 직접 내려받아 자사 ... See more