크롤링 문서 및 최적화 된 llm.txt 파일을 작성하십시오.모든 문서 사이트를 크롤링하고 LLM 컨텍스트 Windows에 적합한 깨끗하고 최적화 된 텍스트 파일을 생성합니다.빠르고 결정 론적이며 로봇 인식.