생성형ai2 AI서비스 기획과 일반 서비스 기획 차이(모델, 데이터, 평가) AI 서비스 기획 직무를 준비하는 취업 준비생의 포트폴리오를 함께 점검하다 보면 화면 구성과 사용자 흐름은 잘 만들어져 있는데, 정작 AI가 예상과 다른 결과를 만들었을 때 어떻게 처리할 것인지가 빠져 있는 경우가 있습니다. 사용자가 질문을 입력하면 AI가 답변하고, 답변을 저장하거나 다시 생성하는 기능까지는 상세하게 기획되어 있지만 모델이 잘못된 정보를 생성했을 때 어떤 문구를 보여줄지, 근거가 부족한 질문에서는 어디까지 답변하게 할지, 같은 질문에 조금 다른 결과가 나와도 정상으로 볼 수 있는지는 정리되지 않은 식입니다. 일반적인 서비스 기획에서는 회원가입이 성공했는지, 결제가 정상적으로 끝났는지처럼 비교적 명확한 성공과 실패 조건을 정의할 수 있습니다. 하지만 생성형 AI 서비스에서는 같은 입력에도.. 2026. 10. 21. RAG 프로젝트 취업 포트폴리오 장단점(검색, 생성, 평가) AI 직무를 준비하는 취업 준비생의 포트폴리오를 함께 점검하다 보면 RAG 프로젝트가 상당히 자주 등장합니다. PDF나 사내 문서를 벡터 DB에 저장하고 사용자가 질문하면 관련 문서를 검색한 뒤 LLM이 답변하는 구조입니다. LangChain이나 LlamaIndex 같은 프레임워크를 사용했고 임베딩과 벡터 검색까지 구현했기 때문에 처음 보면 AI 프로젝트로서 준비가 잘 된 것처럼 보일 수 있습니다. 그런데 프로젝트 설명을 조금 더 들어가면 차이가 나타납니다. 왜 문서를 해당 크기로 나누었는지, 검색 결과 첫 번째 문서가 실제 질문과 관련 있는지, 벡터 검색만 사용했는지 키워드나 하이브리드 검색과 비교했는지 질문하면 답변이 짧아지는 경우가 있습니다. 생성된 답변도 자연스럽지만 실제 문서에 없는 내용을 모델.. 2026. 10. 19. 이전 1 다음
