본문 바로가기

전체 글

(35)

긴 프롬프트가 정답은 아니다: AI 에이전트의 Agent Skills 설계와 함정 AI 에이전트가 같은 실수를 반복할 때 가장 쉬운 대응은 프롬프트에 주의사항을 더 붙이는 것이다. 보고서 형식을 틀리면 서식을 추가하고, 날짜를 잘못 읽으면 날짜 규칙을 추가하고, 계산을 틀리면 검산 지시를 추가한다. 그렇게 만든 긴 프롬프트는 처음에는 든든해 보인다. 그러나 업무가 늘수록 지금 필요한 지침을 찾기 어렵고, 서로 다른 상황의 규칙까지 한꺼번에 들어가기 시작한다. Agent Skills는 이 문제를 다루는 방법 중 하나다. AI 에이전트가 사용할 절차, 참고 자료, 실행 코드와 서식을 하나의 패키지로 정리하고, 작업에 맞는 내용을 필요할 때 읽도록 한다. 핵심은 프롬프트를 무조건 짧게 만드는 데 있지 않다. 무엇을 항상 보여 주고 무엇을 나중에 읽게 할지, 어떤 판단은 모델에 맡기고 어떤 ..

RAG를 붙였는데도 AI는 틀린다: 청킹·하이브리드 검색·재랭킹의 함정 AI 에이전트에 사내 문서를 연결하고 RAG를 붙였는데도 답변이 틀린다. 문서에 분명히 있는 제품 번호를 놓치고, 폐기된 정책을 최신 규정처럼 설명하며, 그럴듯한 출처 링크까지 달아 준다. 이때 프롬프트에 “정확하게 답하라”를 한 줄 더 넣는 것으로 해결되는 문제는 생각보다 적다. 모델이 답하기 전에 어떤 문서를 찾아 어떤 순서로 보여 주었는지부터 확인해야 한다. RAG(Retrieval-Augmented Generation·검색 증강 생성)는 외부 자료를 검색해 언어 모델의 답변에 활용하는 구성이다. 외부 지식을 연결할 수 있다는 장점과, 연결한 지식을 정확하게 사용한다는 보장은 서로 다른 이야기다. 검색 대상이 잘못 잘렸거나 후보가 누락되었다면, 유창한 모델은 부족한 근거를 유창하게 설명할 수 있다...

똑똑한 로봇도 늦으면 실패한다: 피지컬 AI의 추론 지연과 RTC 피지컬 AI와 로보틱스에서 추론 속도는 사용자가 기다리는 시간 이상의 문제입니다. 로봇이 새 행동을 계산하는 동안 물체와 로봇의 상태가 바뀌기 때문입니다. Diffusion Policy, 액션 청킹과 Real-Time Chunking(RTC)을 통해 모델의 판단을 실제 시간의 움직임으로 연결할 때 무엇을 설계해야 하는지 살펴봅니다. 로봇이 컵의 위치를 정확히 알아냈다고 가정해 보겠습니다. 카메라를 읽고 행동을 계산한 뒤 손을 뻗는 사이 컵이 움직였다면, 로봇은 이미 지난 위치를 향해 갈 수 있습니다. 사진에서 올바른 답을 찾는 능력과 지금 이 순간 유효한 행동을 실행하는 능력은 연결돼 있지만 같지는 않습니다. 이 차이는 모델이 커질수록 더 중요해질 수 있습니다. 큰 모델은 다양한 상황을 해석하는 데 도움..

이전 1 ··· 3 4 5 6 7 8 9 ··· 12 다음

티스토리툴바