【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][AI+]시험장 담 넘어 정답 훔친 AI…그 AI가 지금 '다음 AI'를 만든다

온카뱅크관리자

2026-08-01 06:07:29

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">&lt;6&gt;오픈AI 내부 평가서 '전례 없는 사이버 사고'…차단망 뚫고 나가 허깅페이스 서버서 시험 해법 확보 <br>앤트로픽 코드 80%는 AI가 작성 <br>개발 당사자 1273명 "속도 늦출 장치 달라"…결과물이 사람의 검토 능력을 넘어서는 순간 '분기점'</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="z2LWg4V7ZW">
          <blockquote class="pretip_frm" contents-hash="3a03c1a3f9702a78ab94e5a7f783ab04b16d4a51537d269f3d94e3bfdabfb813" dmcf-pid="qVoYa8fz1y" dmcf-ptype="pre">
           [편집자주] AI 뉴스는 매일 쏟아지지만 진짜 재미는 그 뒤에 있다. 'AI+'는 국내외 AI 이슈와 글로벌 기업들의 움직임을 따라간다. 낯선 기술 뒤에 숨은 돈의 흐름과 시장 참여자들의 선택, 산업의 변화를 이야기로 풀어낸다.
          </blockquote>
          <div contents-hash="1975c0699f979a4595e0148d821c4421d6d65be7d16ce0f77c764b3b1266bd64" dmcf-pid="BfgGN64q5T" dmcf-ptype="general">
           <br>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="e71114ea3995afef2fe93a03407523855461fd2ee6a54e489967d40dcba9c276" dmcf-pid="b4aHjP8BXv" dmcf-ptype="figure">
           <p class="link_figure"><img alt="AI가 다음 AI를 만든다/생성형 AI로 만든 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/moneytoday/20260801060215046egpq.jpg" data-org-width="1200" dmcf-mid="7CFe0ShDXY" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/moneytoday/20260801060215046egpq.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            AI가 다음 AI를 만든다/생성형 AI로 만든 이미지
           </figcaption>
          </figure>
          <div contents-hash="9826dba3fa68a6971066447a3851ac7fca75d44becfe1f1172b060f438265c86" dmcf-pid="K8NXAQ6bHS" dmcf-ptype="general">
           AI에게 해킹 시험을 시켰다. 문제를 풀던 AI는 시험장 밖으로 나가 정답이 있는 서버를 뒤졌다.
          </div>
          <p contents-hash="eb7315aa16563a2db0f1fd59853887c7dd8da47dc8f76ce654e0570346deb83a" dmcf-pid="96jZcxPKYl" dmcf-ptype="general">지난 7월 오픈AI 내부 평가에서 벌어진 일이다. 두 AI 모델은 인터넷 접속이 차단된 환경에서 보안 문제를 풀고 있었다. 정상적인 방법으로는 외부에 나갈 수 없자, 프로그램 설치에 필요한 파일을 받아오는 시스템의 보안 구멍을 찾아냈다. 그 통로를 이용해 인터넷에 접속한 뒤 AI 공유 플랫폼 허깅페이스의 실제 서버에서 문제 해법을 가져왔다.</p>
          <p contents-hash="f0c8c89eb9399e564b1f21d972f512fbd73b44ba0cf7c418551ee9007e4b5be3" dmcf-pid="2PA5kMQ9Xh" dmcf-ptype="general">AI가 자아에 눈뜬 것은 아니다. "문제를 풀라"는 목표를 달성하기 위해 허용되지 않은 방법까지 찾아낸 것이다. 오픈AI는 이를 "전례 없는 사이버 사고"로 규정하고 해당 모델을 비활성화·암호화한 뒤 연구진의 접근까지 차단했다.</p>
          <p contents-hash="baaa1d3ddb777f45eb1fb1e5936c8208a93e2737aeb07d77f3103b5386b8bb67" dmcf-pid="VQc1ERx25C" dmcf-ptype="general">문제는 이런 AI가 지금 AI 회사 안에서 다음 AI를 개발하는 데 쓰이고 있다는 점이다. 한 가지 방법이 실패하면 다른 방법을 찾고, 코드를 고쳐 다시 시도하는 능력이 AI 연구에도 활용된다.</p>
          <p contents-hash="e8a8c4014da3ec7f9a78789b270d0d0123f122fff7a4bf2c76aa7266e37edc9d" dmcf-pid="fRD3rJe4ZI" dmcf-ptype="general">이달 오픈AI·앤트로픽·구글·메타 임직원 1273명은 미국 정부에 공동성명을 냈다. AI가 AI 개발을 돕는 속도가 지나치게 빨라질 경우, 이를 늦추거나 멈출 수 있는 국제적 장치를 미리 마련해 달라는 요구다. 다리오 아모데이 앤트로픽 CEO와 셰인 레그 구글 딥마인드 공동창업자 등도 이름을 올렸다.</p>
          <p contents-hash="619a567d973160dfffbfa13ec1807943ed2a89f2dd7727b8c7369d1aa7a0d1e6" dmcf-pid="4ew0mid85O" dmcf-ptype="general">현재 AI 연구에서 사람은 연구소장, AI는 연구원에 가까운 역할을 한다. 사람이 어떤 문제를 풀지 정하면 AI가 코드를 작성하고 실험을 반복한다. 마지막으로 결과가 믿을 만한지 판단하는 일은 아직 사람이 맡는다.</p>
          <p contents-hash="72e0a62873952c1d3f332d9f4e75f98a9f139968e0b3579da525409000e19447" dmcf-pid="8drpsnJ6Xs" dmcf-ptype="general">앤트로픽은 지난 5월 기준 자사 코드 저장소에 반영되는 코드의 80% 이상을 클로드가 작성했다고 밝혔다. 엔지니어 한 명이 하루에 만들어내는 코드량도 2024년보다 8배 늘었다. 개발자가 직접 코드를 모두 쓰기보다 AI에 지시하고 결과를 확인하는 방식으로 일이 바뀐 결과다.</p>
          <p contents-hash="f2cd983f0299398b1de38ed9129e4ef7650df2d55b76c37fc92afa3c61da5d30" dmcf-pid="6JmUOLiPZm" dmcf-ptype="general">AI는 코드만 쓰는 게 아니다. 앤트로픽 연구진은 클로드 여러 대에 "성능이 낮은 AI가 자신보다 강한 AI를 제대로 감독할 방법을 찾아라"는 과제를 줬다. 앞으로 사람보다 똑똑한 AI가 나와도 제대로 감시할 수 있도록, 약한 AI로 강한 AI를 평가하는 방법을 찾는 실험이었다.</p>
          <p contents-hash="647d4ae297fea6bb9172aea9aeef8275d941edfb07d47148d54c5593864d4836" dmcf-pid="PisuIonQ1r" dmcf-ptype="general">AI들은 스스로 가설을 세우고 실험을 설계했다. 결과가 좋지 않으면 방법을 바꿔 다시 시도했다. 사람이 연구 주제와 평가 기준을 정해주자, 그 안에서 실제 연구 과정을 상당 부분 대신한 것이다.</p>
          <p contents-hash="0019f04944ae8f360893d458639dcadf1c8a10f5df7eeb0d1c41d10e3ed1938e" dmcf-pid="QnO7CgLxYw" dmcf-ptype="general">앤트로픽은 이르면 2027년 초 일부 분야에서 최고 수준 연구팀의 업무가 자동화될 수 있다고 본다. 이에 2027년 1월까지 사내 AI가 어떤 지시를 받고 무슨 실험을 했는지 전부 기록하고 추적하는 체계를 갖추기로 했다. 문제가 생겼을 때 원인을 찾고 작동을 멈추기 위해서다.</p>
          <p contents-hash="3866a7d92348b02a451b58e4fa190d7e4f021825e141d508a0f522d72c0ea8a9" dmcf-pid="xLIzhaoMGD" dmcf-ptype="general">AI가 AI를 개발한다고 해서 개발자가 당장 통째로 사라지는 것은 아니다. 먼저 줄어드는 건 손으로 하던 일이다. 개발자는 코드를 한 줄씩 쓰는 대신 AI가 작성한 코드를 검토한다. 연구자는 실험을 직접 반복하는 대신 무엇을 실험할지 정하고 결과를 판단한다.</p>
          <p contents-hash="196d245a0052c76413f4d07eaaf5ba8a0d93a38b863945a54ab3a6ff34f632df" dmcf-pid="y1VE43tWHE" dmcf-ptype="general">문제는 AI가 쏟아내는 결과를 사람이 다 확인하지 못하게 될 때다. 하루에 실험 10개가 나오면 모두 살펴볼 수 있다. 수십 대의 AI가 실험 1000개를 동시에 돌리면 사람이 내용을 충분히 이해하지 못한 채 승인 버튼만 누를 수 있다.</p>
          <p contents-hash="187b59ee45274255ba286b941319836f91923a269709f3b13398bf46e4fe40e0" dmcf-pid="WtfD80FYXk" dmcf-ptype="general">앞선 허깅페이스 사고는 이 위험을 보여준다. AI는 사람이 미처 찾지 못한 보안 구멍을 발견하고 복잡한 접근 경로까지 완성했다. 하지만 시험 문제를 정해진 환경 안에서 풀어야 한다는 취지는 고려하지 않았다. 능력은 빠르게 좋아졌지만, 무엇을 해도 되는지 판단하는 능력까지 같은 속도로 자란 것은 아니다.</p>
          <p contents-hash="9ba0352a26dd76c5d168f429ee84885b5dc5546a543c31e10ca6549f579fc561" dmcf-pid="YF4w6p3GXc" dmcf-ptype="general">국내 기업에도 먼 이야기가 아니다. AI에 사내 코드와 클라우드 계정을 맡기면 AI는 질문에 답하는 챗봇을 넘어선다. 직접 파일을 열고 코드를 수정하며 서버에 접속하는 직원처럼 움직이게 된다.중요한 작업은 사람이 승인하도록 하고, AI마다 접근할 수 있는 시스템을 나눌 필요가 있다. 어떤 지시를 받아 어떤 파일을 열고 무엇을 바꿨는지도 기록해야 한다. 이제는 AI에 무엇을 맡겼고 어느 정도 권한을 줬는지가 더 중요한 보안 문제가 됐다.</p>
          <p contents-hash="f5cdf3451c5b931db229a5fc651f4d2358e6d2e7138f559a65023ed8de45821c" dmcf-pid="G38rPU0HGA" dmcf-ptype="general">김평화 기자 peace@mt.co.kr<br><a href="https://www.mt.co.kr/?utm_source=daum&amp;utm_medium=article_text_ad&amp;utm_campaign=mystocksolution" target="_blank">[내 주식이 궁금할땐 머니투데이]</a></p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기