允许大模型流式输入的JSON提取工具

2024-11-15

在咱们日常处置大模型的输入时，经常宿愿输入的结果为结构化的(例如输入json格局)，这样有助于咱们启动结果的后处置。然而在模型输入超越限度和流式输入时就会遇到疑问了，因为答案没齐全输入，转json就存在疑问。