中新赛克申请用于树形结构文档的基于剪枝优化的 RAG 重排序方法专利，提高大规模语言模型推理效率和响应速度

閲戣瀺鐣� 2025 骞� 4 鏈� 19 鏃ユ秷鎭�紝鍥藉�鐭ヨ瘑浜ф潈灞€淇℃伅鏄剧ず锛屽崡浜�腑鏂拌禌鍏嬬�鎶€鏈夐檺璐ｄ换鍏�徃鐢宠�涓€椤瑰悕涓衡€滅敤浜庢爲褰㈢粨鏋勬枃妗ｇ殑鍩轰簬鍓�灊浼樺寲鐨� RAG 閲嶆帓搴忔柟娉曗€濈殑涓撳埄锛屽叕寮€鍙� CN119808714A锛岀敵璇锋棩鏈熶负 2024 骞� 12 鏈堛€�

涓撳埄鎽樿�鏄剧ず锛屾湰鍙戞槑娑夊強涓€绉嶇敤浜庢爲褰㈢粨鏋勬枃妗ｇ殑鍩轰簬鍓�灊浼樺寲鐨� RAG 閲嶆帓搴忔柟娉曪紝灞炰簬璁＄畻鏈虹�瀛︿笌淇℃伅澶勭悊鎶€鏈��鍩燂紝鏈�彂鏄庢秹鍙婂熀浜庡壀鏋濈瓥鐣ヤ笌 RAG(Retrieval鈥慉ugmented Generation)鎶€鏈�紝缁撳悎鏈哄櫒瀛︿範绠楁硶涓庢�鐜囪�锛屽�澶氬弶鏍戠粨鏋勬枃妗ｈ繘琛岃妭鐐瑰緱鍒嗚�绠椼€佸壀鏋濅紭鍖栧拰閲嶆帓搴忓�鐞嗙殑鎶€鏈�柟妗堬紝浠ユ彁楂樺ぇ瑙勬ā璇�█妯″瀷鍦ㄧ煡璇嗘�绱㈠拰鐢熸垚浠诲姟涓�殑鎺ㄧ悊鏁堢巼鍜屽搷搴旈€熷害銆傛湰鍙戞槑閫傜敤浜庨渶瑕侀珮鏁堟枃妗ｅ�鐞嗐€佸揩閫熷搷搴斿拰楂樺噯纭�害鐨勫簲鐢ㄥ満鏅�紝濡傛悳绱㈠紩鎿庛€佹櫤鑳介棶绛旂郴缁熷拰鐭ヨ瘑搴撶�鐞嗙瓑銆�

澶╃溂鏌ヨ祫鏂欐樉绀猴紝鍗椾含涓�柊璧涘厠绉戞妧鏈夐檺璐ｄ换鍏�徃锛屾垚绔嬩簬2007骞达紝浣嶄簬鍗椾含甯傦紝鏄�竴瀹朵互浠庝簨璁＄畻鏈恒€侀€氫俊鍜屽叾浠栫數瀛愯�澶囧埗閫犱笟涓轰富鐨勪紒涓氥€備紒涓氭敞鍐岃祫鏈�30000涓囦汉姘戝竵銆傞€氳繃澶╃溂鏌ュぇ鏁版嵁鍒嗘瀽锛屽崡浜�腑鏂拌禌鍏嬬�鎶€鏈夐檺璐ｄ换鍏�徃鍏卞�澶栨姇璧勪簡4瀹朵紒涓氾紝鍙備笌鎷涙姇鏍囬」鐩�284娆★紝璐�骇绾跨储鏂归潰鏈夊晢鏍囦俊鎭�43鏉★紝涓撳埄淇℃伅178鏉★紝姝ゅ�浼佷笟杩樻嫢鏈夎�鏀胯�鍙�47涓�€�

鏈�枃婧愯嚜锛氶噾铻嶇晫

浣滆€咃細鎯呮姤鍛�