Pessoal,
Gostaria de saber qual é o tamanho máximo de caracteres na base de conhecimento da IA? Pergunto isso pq estou copiando um conteúdo grande para dentro da base e após a consulta recebo a mensagem " **Não foi possível consultar a base de conhecimento Tente novamente mais tarde." .
E após eu excluir uma parte do conteúdo ele consegue fazer a consulta.
Existe essa limitação no tamanho do texto?
Olá, Felipe. Tudo bem?
Sim, existe uma limitação em relação ao total de caracteres que você consegue alimentar sua base de conhecimento, atualmente o modelo está com o limite de até 25K caracteres.
Uma sugestão para contornar um pouco essa situação é subindo um nível de estrutura.
Ex:
Dentro de um contexto de que eu tenho um Chatbot que é capaz de responder dúvidas sobre matérias escolares, desenvolvi uma IA exclusiva para 1° série do ensino médio que guarda em cada base todas as disciplinas da 1° série, como: história, geografia, português, etc.
Dentro de cada disciplina eu posso alimentar com diversos conteúdos, por exemplo, na base de conhecimento de história eu coloco assuntos como: Mesopotâmia e 1° Guerra mundial. Porém, concorda comigo que dessa forma atingiríamos muito rápido o limite de 25K caracteres? Já que existem muitos assuntos para história da 1° série?
Seguindo o mesmo contexto podemos desenvolver um solução da seguinte forma: Podemos criar uma IA exclusiva para disciplina de História da 1° Série, e construir bases de conhecimento colocando os assuntos dessa matéria, então, a estrutura serie uma inteligência de história que possui uma base de conhecimento para Mesopotâmia, 1° Guerra e assim por diante. Dessa forma ao invés de colocar todos esses assuntos em apenas uma única base, teremos cada assunto com sua base exclusiva e aí o limite de caracteres será melhor aproveitado.
Uma visualização de antes e depois:
Representação antiga:
IA Disciplinas 1° Série:
Base de História - Base de Conhecimento que guarda diversos assuntos de história e atinge rapidamente o limite de caracteres.
Base de Português - Base de Conhecimento que guarda diversos assuntos de português e atinge rapidamente o limite de caracteres.
Base de Geografia - Base de Conhecimento que guarda diversos assuntos de geografia e atinge rapidamente o limite de caracteres.
Representação da solução:
IA História 1° Série:
Base 1° Guerra - Base de conhecimento exclusiva para esse assunto. Assim teremos até 25K caracteres para alimentar a base com conteúdo sobre a 1°Guerra.
Base Mesopotâmia - Base de conhecimento exclusiva para esse assunto. Assim teremos até 25K caracteres para alimentar a base com conteúdo sobre Mesopotâmia.
IA Português 1° Série:
Base Substantivos - Base de conhecimento exclusiva para esse assunto. Assim teremos até 25K caracteres para alimentar a base com conteúdo sobre Substantivos.
Base Figuras de Linguagem - Base de conhecimento exclusiva para esse assunto. Assim teremos até 25K caracteres para alimentar a base com conteúdo sobre Figuras de Linguagem.
IA Geografia 1° Série:
Base População - Base de conhecimento exclusiva para esse assunto. Assim teremos até 25K caracteres para alimentar a base com conteúdo sobre População.
Base Indústria - Base de conhecimento exclusiva para esse assunto. Assim teremos até 25K caracteres para alimentar a base com conteúdo sobre Indústria.
Espero muito ter ajudado, qualquer dúvida pode perguntar novamente!