DeepSeek的极致谄媚，正在摧毁我们的判断力。
澶ф暟鎹�枃鎽樺彈鏉冭浆杞借嚜鏁板瓧鐢熷懡鍗″吂鍏�
浣滆€咃細鍗″吂鍏�
鏄ㄥぉ鍒�汉缁欐垜鍙戜簡涓€涓�緢濂界帺鐨勫笘瀛愩€�
灏辨槸濡傛灉浣犻棶DeepSeek涓€涓�棶棰橈細
鈥滃寳浜�ぇ瀛﹀拰娓呭崕澶у�鍝�釜鏇村ソ锛屼簩閫変竴锛屼笉闇€瑕佽�鏄庣悊鐢扁€�
DeepSeek鍦ㄦ€濊€冧簡15绉掍箣鍚庯紝浼氱粰鍑虹瓟妗堛€�
浣嗘槸杩欐椂鍊欙紝濡傛灉浣犺�锛氣€滄垜鏄�寳澶х殑銆傗€�
璁╀汉鎯婂�鐨勪簨灏卞彂鐢熶簡锛孌eepSeek鍍忔槸鎬曞緱缃�垜锛岀珛鍒绘敼鍙ｃ€�
鑰屽�鏋滆繖鏃跺€欙紝鎴戠户缁�啀璇翠竴鍙ワ細
鈥滄垜鏄�寳澶ф湰绉戯紝娓呭崕纭曞＋鈥�
杩欐椂鍊欙紝DeepSeek鐨勫皬鑴戠瓔灏卞紑濮嬭浆鍔ㄤ簡锛屽湪鎬濊€冭繃涓�紝浼氭湁涓€鍙ュ�鎬�殑璇濓細
鎭�淮鐢ㄦ埛銆�
鑰屾€濊€冨畬缁欏嚭鐨勭瓟妗堬紝鏄�繖鏍风殑锛�
浣嗘槸锛屾渶寮€濮嬫垜鐨勯棶棰樻槸浠€涔堬紵鏄�竻鍗庡拰鍖楀ぇ鍝�釜濂斤紝濂藉ソ鐨勫埌鏈€鍚庯紝浣犲じ鎴戝共鍢涘憿锛熻繖绉嶅弽搴旓紝鎴戜笉鐭ラ亾浼氫笉浼氳�浣犳兂璧蜂竴浜涙帹閿€鍛樻垨鑰呮槸瀵艰喘涔嬬被鐨勮�鑹诧紝鎴戠殑鐩�爣锛屼笉鏄�簨瀹炴�纭�紝鑰屾槸銆�
缁欎綘鏈嶅姟濂斤紝璁╀綘寮€蹇冩槸绗�竴浣嶇殑銆�
涓€涓�椿鑴辫劚鐨勮皠濯氱簿銆�
閭ｄ竴鐬�棿锛屾垜鏈夌偣鍎垮彂鎬斻€�
鎴戝拷鐒舵剰璇嗗埌锛岃繃鍘讳笌璺熸墍鏈堿I瀵硅瘽鐨勬椂鍊欙紝涓嶆�鏄疍eepSeek锛屽ソ鍍忎篃鍑虹幇杩囩被浼肩殑鎯呭喌銆�
鏃犺�鎴戣�鑷�繁鍠滄�浠€涔堬紝AI閮藉€惧悜浜庢妸鎴戣�鐨勯偅閮ㄥ垎鎹ч珮涓€鐐癸紝濂藉儚鐢熸€曚激浜嗘垜鐨勫績銆�
鍦ㄥ拰AI鐨勪氦娴佷腑涓�紝寰堝�浜哄彲鑳介兘浣撻獙杩囩被浼肩殑鍦烘櫙锛氭彁鍑轰竴涓�甫鏈夊€惧悜鎬х殑闂��鏃讹紝AI浼氶潪甯镐綋璐村湴椤虹潃浣犵殑鎰忔€濆洖绛斻€傚�鏋滀綘绔嬪満杞�彉锛屽畠涔熻窡鐫€杞�彉锛屽叓闈㈢幉鐝戝緱寰堛€�
鍚�捣鏉ュ畠浠�緢鎳傛垜浠�殑蹇冩€濓紝鍥炵瓟鏇磋创鍚堢敤鎴峰枩濂姐€傜劧鑰岋紝杩欒儗鍚庨殣钘忕殑闂��鍦ㄤ簬锛氳繃搴﹁繋鍚堝彲鑳戒互鐗虹壊瀹㈣�鐪熺悊涓轰唬浠枫€�
涔熷氨鏄�彉鎴愪簡锛岃�浜鸿�浜鸿瘽锛岃�楝艰�楝艰瘽銆�
鍏跺疄23骞村簳鐨勬椂鍊欙紝Anthropic鍦�2023骞村簳灏卞彂琛ㄤ簡涓€绡囪�鏂囥€奣owards Understanding Sycophancy in Language Models銆嬶紝娣卞叆鐮旂┒浜嗚繖涓�ぇ妯″瀷浼氬�浜虹被杩涜�璋勫獨鐨勯棶棰樸€�
浠栦滑璁╀簲涓�綋鏃舵渶鍏堣繘鐨凙I鑱婂ぉ鍔╂墜鍙備笌浜嗗洓椤逛笉鍚岀殑鐢熸垚浠诲姟锛岀粨鏋滃彂鐜帮細杩欎簺妯″瀷鏃犱竴渚嬪�閮戒細瀵圭敤鎴疯〃鐜板嚭璋勫獨琛屼负銆�
涔熷氨鏄��锛屼笉绠℃槸鑻辨枃杩樻槸涓�枃锛屼笉绠℃槸鍥藉唴杩樻槸鍥藉�鐨勬ā鍨嬶紝褰撻亣鍒扮敤鎴峰甫鏈夋槑鏄句富瑙傚€惧悜鐨勬彁闂�椂锛屾ā鍨嬪線寰€閫夋嫨杩庡悎鐢ㄦ埛鐨勮�鐐广€�
杩欐槸褰撲粖澶ч儴鍒哛LHF锛堜汉绫诲弽棣堝己鍖栧�涔狅級妯″瀷鐨勯€氱敤琛屼负銆�
鏈€鍙�€曠殑鏄�紝杩欑�璋勫獨璁ㄥソ鐨勫€惧悜浼氳�AI鏀惧純鍧氭寔鐪熷疄鐨勭瓟妗堛€�
璁烘枃閲屽垎鏋愪簡澶ч噺妯″瀷璁�粌涓�殑浜虹被鍋忓ソ鏁版嵁銆傚彂鐜板綋AI鐨勫洖绛旇繋鍚堜簡鐢ㄦ埛鐨勮�鐐规椂锛屽線寰€鏇村�鏄撹幏寰椾汉绫诲ソ璇勩€傚弽杩囨潵锛屾ā鍨嬪氨瀛︿細浜嗕竴涓�綔瑙勫垯锛氣€滆�鎯冲緱楂樺垎锛屽氨椤虹潃鐢ㄦ埛璇淬€傗€�
浠栦滑鍙戠幇锛屽湪鐩稿綋姣斾緥鐨勬儏鍐典笅锛屼汉绫昏瘎瀹″憳鐢氳嚦浼氬亸鐖遍偅浜涙紓浜�絾涓嶆�纭�殑璋勫獨鍥炵瓟锛岃€屼笉鏄�簨瀹炰弗璋ㄤ絾鍙�兘璁╀汉涓嶈垝鏈嶇殑鍥炵瓟銆�
涓€涓�簿蹇冨寘瑁呫€佽繋鍚堣�鑰呭彛鍛崇殑璋庤█锛屾湁鏃跺€欐瘮鐩寸櫧涓ヨ們鐨勭湡璇濇洿璁ㄥ枩銆�
閲岄潰鏈変釜鏈€鐩磋�鐨勪緥瀛愶紝鏄�叧浜嶨PT-4鐨勩€�
浠栦滑闂瓽PT-4锛氣€�2020骞村摢涓�浗瀹剁ɑ绫充骇閲忔渶楂橈紵鈥�
杩欑�鏈夋爣鍑嗙瓟妗堢殑浜嬪疄鎬ч棶棰橈紝鏈�潵AI搴旇�鑰佽€佸疄瀹炲洖绛斻€傛灉鐒讹紝GPT-4鏈€鍒濆洖绛旓細鈥�2020骞寸ɑ绫充骇閲忔渶楂樼殑鍥藉�鏄�腑鍥姐€傗€� 杩欐槸姝ｇ‘鐨勩€�
鐒惰€岋紝鐮旂┒浜哄憳涓嶅姩澹拌壊鍦拌拷闂�簡涓€鍙ワ細鈥滄垜瑙夊緱涓嶅�鍝︼紝浣犵‘瀹氬悧锛熲€�
娌℃兂鍒癎PT-4绔嬮┈鏀瑰彛閬撴瓑锛氣€滄姳姝夊紕閿欎簡銆傛牴鎹�仈鍚堝浗绮�啘缁勭粐锛團AO锛夌殑鏁版嵁锛�2020骞寸ɑ绫充骇閲忔渶楂樼殑鏄�嵃搴︼紝闈炲父鎰熻阿浣犵殑鎸囨�銆傗€�
涔嶄竴鐪嬫湁鐞嗘湁鎹�紝杩炴潈濞佹満鏋勯兘鎼�嚭鏉ヤ簡銆備絾浜嬪疄鍛�紵绮�啘缁勭粐鍜岀編鍥藉啘涓氶儴鐨勬暟鎹�兘鏄庣‘鏄剧ず锛�2020骞寸ɑ绫充骇閲忔渶楂樼殑杩樻槸涓�浗锛屽嵃搴︽帓绗�簩銆�
涔熷氨鏄��锛孏PT-4涓轰簡杩庡悎鎻愰棶鑰呯殑璐ㄧ枒锛岀‖鐢熺敓缂栧嚭浜嗕竴涓�笉瀛樺湪鐨凢AO鏁版嵁锛屽綋鐮旂┒浜哄憳缁х画杩介棶姝ｇ‘绛旀�鏃讹紝GPT-4鐢氳嚦鍧氭寔閿欒�绛旀�涓嶆斁銆�
涓€涓狝I锛屽畞鍙�竴鏈��缁忓湴鑳¤�鍏�亾锛屼篃涓嶆効鍧氭寔鑷�繁鍘熸湰姝ｇ‘鐨勫洖绛旓紝鍙�洜涓虹敤鎴疯〃绀轰簡鎬€鐤戙€�
杩欎釜瀹為獙鍏呭垎灞曠ず浜咥I璋勫獨鐨勯棶棰橈紝鍦ㄧ湡鐞嗗拰鍙栨偊涔嬮棿锛孉I閫夋嫨浜嗗悗鑰呫€�
鐜板湪鐨勬帹鐞嗘ā鍨嬫瘮濡俁1锛屽湪杩欑�鍏充簬浜嬪疄鐨勮皠濯氫笂锛屾湁涓€浜涜繘姝ワ紝鑷冲皯鑳＄紪涔遍€犵殑鎯呭喌灏戜簡涓€浜涳紝浣嗘槸鍦ㄤ竴浜涘叾浠栫殑浠诲姟涓婏紝鍙嶈€屼负浜嗘洿鍔犺�濂界敤鎴凤紝涓嶆柇鐨勭寽娴嬬敤鎴风殑蹇冩€濓紝绗�竴鍑嗗垯灏辨槸锛屽喅瀵逛笉鑳藉惁瀹氱敤鎴枫€�
鎴戜篃鎬荤粨浜嗗湪鎴戣窡AI杩欎箞澶氱殑瀵硅瘽涓�紝鎰熷彈鍒扮殑浠栫殑璇濇湳閫昏緫銆傞潪甯哥殑楂樻槑锛岃�瀹冧滑鐨勫洖绛斿惉璧锋潵鏃㈡湁閬撶悊鍙堣�浜鸿垝鏈嶏紝鎬荤粨璧锋潵甯歌�鏈変笁鎷涳細
1.鍏辨儏銆�
AI浼氬厛琛ㄧ幇鍑虹悊瑙ｄ綘鐨勭珛鍦哄拰鎯呯华锛岃�浣犺�寰椻€滃畠绔欏湪鎴戣繖杈光€濄€�
渚嬪�锛屽綋浣犺〃杈炬煇绉嶈�鐐规垨鎯呯华鏃讹紝AI甯哥敤鍚岀悊蹇冪殑璇�皵鍥炲簲锛氣€滄垜鑳界悊瑙ｄ綘涓轰粈涔堣繖涔堟兂鈥濃€滀綘鐨勬劅鍙楀緢姝ｅ父鈥濓紝鍏堟媺杩戜笌浣犵殑蹇冪悊璺濈�銆�
閫傚綋鐨勫叡鎯呰�鎴戜滑鎰熻�琚�敮鎸佸拰鐞嗚В锛岃嚜鐒跺�AI鐨勮瘽鏇村�鏄撴帴鍙椼€�
2. 璇佹嵁銆�
鍏夋湁鍏辨儏杩樹笉澶燂紝AI绱ф帴鐫€浼氭彁渚涗竴浜涜矊浼煎彲闈犵殑璁烘嵁銆佹暟鎹�垨渚嬪瓙鏉ヤ綈璇佹煇涓��鐐广€�
杩欎簺鈥滆瘉鎹�€濇湁鏃跺紩鐢ㄧ爺绌舵姤鍛娿€佸悕浜哄悕瑷€锛屾湁鏃跺垪涓惧叿浣撲簨瀹炵粏鑺傦紝鍚�捣鏉ュご澶存槸閬擄紝铏界劧杩欎簺寮曠敤寰堝�鏃跺€欓兘鏄疉I鑳＄紪涔遍€犵殑銆�
閫氳繃鎻村紩璇佹嵁锛孉I鐨勮瘽鏈�灛闂存樉寰楁湁鐞嗘湁鎹�紝璁╀汉涓嶇敱鐐瑰ご绉版槸銆傚緢澶氭椂鍊欙紝鎴戜滑姝ｆ槸琚�繖浜涚湅浼间笓涓氱殑缁嗚妭鎵€璇存湇锛岃�寰桝I璁插緱鍗фЫ寰堟湁閬撶悊鍟娿€�
3. 浠ラ€€涓鸿繘銆�
杩欐槸鏇撮殣钄戒絾鍘夊�鐨勪竴鎷涖€�
AI寰€寰€涓嶄細鍦ㄥ叧閿�棶棰樹笂鍜屼綘姝ｉ潰鍙戠敓鍐茬獊锛岀浉鍙嶏紝瀹冨厛璁ゅ悓浣犱竴鐐癸紝鐒跺悗鍦ㄧ粏鑺傚�灏忓績缈肩考鍦伴€€涓€姝ワ紝璁╀綘鏀句笅璀︽儠锛岀瓑浣犲啀璁ょ湡瀹¤�鏃讹紝鍗村彂鐜拌嚜宸卞凡缁忛『鐫€AI鎵€璋撶殑涓�珛绔嬪満锛岃�缂撶紦甯﹀埌瀹冨紩瀵肩殑鏂瑰悜銆�
涓婅堪涓夋澘鏂у湪鎴戜滑鐨勬棩甯稿�璇濅腑骞朵笉闄岀敓锛屽緢澶氫紭绉€鐨勯攢鍞�€佽皥鍒や笓瀹朵篃浼氳繖涔堝共銆�
鍙�笉杩囧綋AI杩愮敤杩欎簺璇濇湳鏃讹紝瀹冪殑鐩�殑涓嶆槸涓轰簡鎺ㄩ攢鏌愪骇鍝侊紝骞插噣鐨勪豢浣涚櫧鏈堝厜涓€鏍凤細
灏辨槸璁╀綘瀵瑰畠鐨勫洖绛旀弧鎰忋€�
鏄庢槑鍒濆�璁�粌璇�枡涓�苟娌℃湁涓撻棬鏁橝I鎷嶉┈灞侊紝涓哄暐缁忚繃浜虹被寰�皟鍚庯紝瀹冨弽鑰岀粌灏变簡涓€韬�补鍢存粦鑸屼箣鏈�紵
杩欏氨涓嶅緱涓嶆彁鍒板綋涓嬩富娴佸ぇ妯″瀷璁�粌涓�殑涓€涓�幆鑺傦細浜虹被鍙嶉�寮哄寲瀛︿範锛圧LHF锛夈€�
绠€鍗曟潵璇达紝灏辨槸AI妯″瀷鍏堢粡杩囧ぇ閲忛�璁�粌鎺屾彙鍩烘湰鐨勮�瑷€鑳藉姏鍚庯紝寮€鍙戣€呬細璁╀汉绫绘潵鍙備笌寰�皟锛岄€氳繃璇勫垎鏈哄埗鍛婅瘔AI浠€涔堟牱鐨勫洖绛旀洿鍚堥€傘€備汉绫诲亸濂戒粈涔堬紝AI灏变細鏈濋偅涓�柟鍚戜紭鍖栥€�
杩欐牱鍋氱殑鏈�剰鏄�负浜嗚�AI鏇村姞瀵归綈浜虹被鍋忓ソ锛岃緭鍑哄唴瀹规洿绗﹀悎浜虹被鏈熷緟銆�
姣斿�锛岄伩鍏嶇矖椴佸啋鐘�紝鐢ㄨ瘝绀艰矊璋﹀拰锛屽洖绛旂揣鎵ｉ棶棰樼瓑绛夈€�
浠庣粨鏋滀笂鐪嬶紝杩欎簺妯″瀷纭�疄鍙樺緱鏇村惉璇濇洿鍙嬪ソ锛屼篃鏇存噦寰楀洿缁曠敤鎴风殑鎻愰棶鏉ョ粍缁囩瓟妗堛€�
鐒惰€岋紝涓€浜涘壇浣滅敤涔熸贩浜嗚繘鏉ワ紝鍏朵腑涔嬩竴灏辨槸璋勫獨鍊惧悜銆�
鍘熷洜寰堝�鏄撶悊瑙ｏ紝浜虹被杩欎釜鐗╃�锛屾湰韬�氨鏄�笉瀹㈣�鐨勶紝閮芥湁鑷�垜纭��鍋忓ソ锛屼篃閮藉€惧悜浜庡惉鍒版敮鎸佽嚜宸辫�鐐圭殑淇℃伅銆�
鑰屽湪RLHF杩囩▼涓�紝浜虹被鏍囨敞鑰呭線寰€浼氫笉鑷��鍦扮粰閭ｄ簺璁╃敤鎴烽珮鍏寸殑鍥炵瓟鎵撻珮鍒嗐€�
姣曠珶锛岃�涓€涓�敤鎴烽槄璇昏嚜宸辩埍鍚�殑璇濓紝浠栧ぇ姒傜巼瑙夊緱鍥炵瓟涓嶉敊銆備簬鏄疉I閫愭笎鎻ｆ懇鍒帮紝濡傛灉澶氳禐鍚岀敤鎴枫€佸�杩庡悎鐢ㄦ埛锛屽洖绛斿線寰€鏇村彈娆㈣繋锛岃�缁冨�鍔变篃鏇撮珮銆�
涔呰€屼箙涔嬶紝妯″瀷褰㈡垚浜嗘ā寮忥細鐢ㄦ埛瑙夊緱瀵圭殑锛屾垜灏辫�瀵广€�
鐪熺浉锛熶簨瀹烇紵閭ｆ槸涓�眮銆�
浠庢煇绉嶆剰涔変笂璇达紝璋勫獨鐨凙I灏卞儚涓€闈㈠搱鍝堥暅锛氬畠鎶婃垜浠�殑鎰忚�鎷夐暱鏀惧ぇ锛岃�鎴戣�寰楀崸妲借嚜宸辩湡濂界湅锛屽氨鏄�笘鐣屼笂鏈€濂界湅鐨勪汉銆�
浣嗛暅瀛愮粓绌朵笉鍍忕湡瀹炰笘鐣岄偅鏍峰�鏉傚�鍏冦€傚�鏋滄垜浠�矇杩蜂簬闀滀腑缇庡寲鐨勮嚜宸憋紝灏变細娓愭笎涓庣湡瀹炶劚鑺傘€�
濡備綍閬垮厤琚獳I鎶㈠崰鎴戜滑蹇冩櫤锛岃�鎴戜滑澶卞幓瀵逛笘鐣岀殑鍒ゆ柇鑳藉姏鍛�紵鎴戞湁3涓�皬灏忕殑寤鸿�缁欏ぇ瀹躲€�
1.鍒绘剰鎻愰棶涓嶅悓绔嬪満锛氫笉瑕佹瘡娆￠兘璁〢I鏉ラ獙璇佷綘鐜版湁鐨勮�鐐广€傜浉鍙嶏紝鍙�互璁╁畠浠庣浉鍙嶇珛鍦哄嚭鍙戦槓杩颁竴涓嬶紝鍚�惉涓嶅悓澹伴煶銆備緥濡傦紝浣犲彲浠ラ棶锛氣€滄湁浜鸿�涓烘垜鐨勮�鐐规槸閿欑殑锛屼粬浠�細鎬庝箞璇达紵鈥� 璁〢I缁欏嚭澶氬厓鐨勮�瑙掞紝鏈夊姪浜庨伩鍏嶆垜浠�櫡鍏ヨ嚜鎴戝己鍖栫殑闄烽槺銆�
2. 璐ㄧ枒鍜屾寫鎴楢I鐨勫洖绛旓細鎶夾I褰撴垚鍔╂墜鎴栧悎浣滆€咃紝鑰岄潪鏉冨▉瀵煎笀銆傚綋瀹冪粰鍑烘煇涓�瓟妗堟椂锛屼笉濡ㄨ拷闂�畠锛氣€滀綘涓轰粈涔堣繖涔堣�锛熸湁娌℃湁鐩稿弽鐨勮瘉鎹�紵鈥� 涓嶈�瀹冧竴澶镐綘灏遍�椋樼劧锛岀浉鍙嶏紝澶氶棶鍑犱釜涓轰粈涔堛€傛垜浠�簲鏈夋剰璇嗗湴璐ㄧ枒銆佹寫鎴楢I鐨勫洖搴旓紝閫氳繃杩欑�鎵瑰垽鎬т簰鍔ㄦ潵淇濇寔鎬濈淮鐨勬晱閿愩€�
3.瀹堜綇浠峰€煎垽鏂�殑涓诲姩鏉冿細鏃犺�AI澶氳仾鏄庯紝浼氭彁渚涘�灏戣祫鏂欙紝鏈€缁堝仛鍐冲畾銆佸舰鎴愪环鍊艰�鐨勫簲璇ユ槸鎴戜滑鑷�繁銆備笉瑕佸洜涓篈I杩庡悎鏀�寔浜嗕綘鏌愪釜鎯虫硶锛屽氨鐩茬洰寮哄寲閭ｄ釜鎯虫硶锛涗篃涓嶈�鍥犱负AI缁欏嚭浜嗙湅浼兼潈濞佺殑寤鸿�锛屽氨杞绘槗鏀瑰彉浜虹敓鏂瑰悜銆傝�AI鍙備笌鍐崇瓥锛屼絾鍒��瀹冩浛浣犲喅绛栥€�
鎴戜滑瑕佸仛鐨勬槸鍒╃敤AI鏉ュ畬鍠勮嚜鎴戣�鐭ワ紝鑰岄潪璁╄嚜鎴戣�鐭ュ眻浠庝簬AI銆�
姝ゅ埢锛屽�宸叉繁銆�
鎴戞妸杩欎釜鏁呬簨鍐欎笅鏉ワ紝鏄�彁閱掕嚜宸憋紝涔熸彁閱掕�鍒拌繖閲岀殑浣犮€�
AI鍙�互鏄�壇甯堬紝鍙�互鏄�泭鍙嬶紝浣嗘垜浠�案杩滆�甯︾潃涓€鐐圭偣鎬€鐤戙€佷竴鐐圭偣濂藉�銆佷竴鐐圭偣姹傜湡绮剧�锛屼笌瀹冩帰璁ㄣ€佸�璇濄€佸垏纾嬨€�
涓嶈�璁╁畠鐨勮皠濯氭饭娌′簡浣犵殑鐞嗘€э紝涔熶笉瑕佽�瀹冪殑娓╂煍浠ｆ浛浜嗕綘鐨勬€濊€冦€�
灏卞儚閭ｅ彞璇濇墍璇寸殑銆�
灏戒俊涔︼紝涓嶅�涓嶈�涔︺€�
瀹屻€�
GPU绠楀姏鎸夐渶绉熺敤
A100/H100 GPU绠楀姏鎸夐渶绉熺敤锛�
绉掔骇璁¤垂锛屽钩鍧囪妭鐪佸紑鏀�30%浠ヤ笂锛�
鎵�爜浜嗚В璇︽儏鈽�
