[자연어 검색 개발기 #4] 스트리밍, 추천, 그리고 회고
3편까지 검색이 어떻게 이루어지는지 다뤘습니다. 이번 편에서는 검색 결과를 어떻게 실시간으로 보여줬는지, OpenAI를 추가로 호출하지 않고 개인화 추천을 어떻게 만들었는지, 그리고 전체 프로젝트를 돌아본 소감으로 마무리하겠습니다. 왜 응답을 스트리밍했나처음엔 검색 결과와 AI 응답 문장을 한 번에 묶어서 반환했습니다. 그런데 실제로 써보니 문제가 있었습니다. AI가 응답 문장을 만드는 데 시간이 걸리다 보니, 검색 결과가 이미 준비됐는데도 사용자는 그동안 아무것도 못 보고 기다려야 했습니다.그래서 두 단계로 나눴습니다.검색 결과를 먼저 즉시 전송 (사용자는 상품 카드부터 바로 확인)AI 응답 문장은 토큰 단위로 이어서 스트리밍 (타이핑되듯 보여줌)Server-Sent Events(SSE)로 이 두 이벤..
