본문 바로가기

전체 글

(35)

AI 에이전트, 똑똑해져도 업무는 망칠 수 있다: 2026년 설계의 핵심은 ‘복구’다 AI 에이전트는 질문에 답하는 챗봇을 넘어 도구를 선택하고 여러 단계를 실행하는 소프트웨어로 진화하고 있습니다. 그러나 모델이 더 똑똑해졌다는 사실만으로 업무 자동화가 안정적으로 완성되지는 않습니다. 검색 결과를 잘못 해석하거나, 끊어진 세션을 처음부터 다시 시작하거나, 이미 처리한 작업을 중복 실행하면 좋은 답변 능력도 실제 성과로 이어지기 어렵습니다. 이 글은 AI 에이전트 구축을 고민하는 개발자와 서비스 기획자를 위해 워크플로우, 도구 설계, 컨텍스트 관리, 장애 복구, 평가와 비용을 하나의 흐름으로 정리합니다. 핵심 질문은 단순합니다. “우리 에이전트는 실패한 다음에도 올바르게 일을 이어갈 수 있는가?” 이 질문에 답할 수 있어야 데모를 넘어 운영을 논의할 수 있습니다. 자료 확인 기준일은 202..

AI를 컨테이너에 넣었다고 끝이 아니다: 에이전트 샌드박스의 진짜 경계 AI 에이전트 샌드박스, 왜 지금 실행 환경을 다시 설계해야 할까AI 에이전트 샌드박스는 모델이 생성한 코드와 명령을 제한된 실행 환경에서 처리하도록 만드는 장치다. 그러나 컨테이너를 하나 띄웠다는 사실만으로 데이터 유출과 권한 오남용까지 해결되지는 않는다. 파일 접근, 네트워크 연결, 자격증명 사용, 실행 시간과 자원 소비를 각각 통제해야 실제 업무에 투입할 수 있다. 이 글은 그 경계를 나누고, gVisor와 가상머신 기반 격리의 차이부터 운영 검증까지 살펴본다. 챗봇은 틀린 문장을 만들 수 있다. 코드를 실행하는 에이전트는 그 문장을 실제 파일 변경이나 외부 요청으로 바꾼다. 검색 결과를 읽다가 잘못된 지시를 받아들였을 때, 답변 품질의 문제가 실행 권한의 문제로 이어지는 이유다. 모델을 더 신중하..

코드는 정상인데 AI는 엉뚱한 도구를 부른다: Tool Calling 설계의 함정 API는 정상이다. 같은 함수에 같은 형식의 인자를 넣으면 서버는 기대한 결과를 반환한다. 그런데 AI 에이전트에 연결하면 비슷한 이름의 다른 도구를 고르고, 불필요한 목록을 전부 읽고, 이미 아는 식별자를 다시 추측한다. 이런 상황에서 시스템 프롬프트에 “정확하게 도구를 사용하라”를 한 줄 추가하는 것으로 문제가 끝날까. AI 에이전트의 Tool Calling은 기존 API 연동과 닮았지만 같은 문제는 아니다. 사람이 작성한 코드는 어떤 함수를 어떤 순서로 호출할지 명시한다. 에이전트에서는 모델이 사용자 요청과 도구 설명, 이전 결과를 보고 다음 호출을 선택하는 구간이 생긴다. 함수 구현이 올바르다는 사실과 모델이 그 함수를 올바르게 선택하고 해석한다는 사실을 분리해서 봐야 한다. 이 글은 AI 에이전..

이전 1 2 3 4 5 6 ··· 12 다음

티스토리툴바