中國作家協會主管

應該如何閱讀古籍？人們通常認為，閱讀古籍要選擇合適的版本，了解歷史背景知識，借助注釋和工具書，對照其他相關文獻，才能更好地體會古籍的獨特之處。然而，事實上，“找不到、不會用、讀不懂”是人們閱讀古籍時面臨的常見情況。

隨著人工智能技術的發展，這些問題正在慢慢解決。近日，在字節跳動研發的“識典古籍”數字化平臺上，讀者多了“古籍智能助手”的選項——選中讀不懂的古文原文點擊“問AI”，就可以看到這句話的翻譯，并可以用日常說話的方式，讓智能助手總結文本內容，提出可供參考的研究問題。

可以看到，古籍智能助手降低了古籍的閱讀門檻，讓流傳千百年的寶貴文獻走入尋常百姓家。事實上，以古籍智能助手為代表的人工智能工具還有更長遠的價值——在讓更多讀者親近古籍的同時，為古籍數字化工作帶來了機遇，“我們所處的新時代，有可能實現文化典籍永久保護和傳承。”業內人士表示。

識典古籍相關海報

讓大模型更會檢索

在字節跳動看來，古籍智慧助手上線有賴于近年來人工智能技術的爆發式發展。

2022年3月，字節跳動向北大教育基金會提供捐贈，全面支持“北京大學-字節跳動數字人文開放實驗室”的工作。彼時，字節跳動計劃研發古籍數字化平臺，利用智能技術加速中華古籍資源的數字化建設，向全社會提供公益化服務。如今，“識典古籍”數字化平臺已上線，免費開放古籍超過2900部。目前“識典古籍”平臺為方便用戶的檢索和閱讀，已上線了全文和分類檢索、字典、古籍譯文、命名實體查閱百科等功能。

然而，“識典古籍”數字化平臺研發團隊發現，雖然平臺內輔助工具繁多，但是用戶的需求依然沒有被精準滿足——“找不到、不會用”成為用戶使用古籍閱讀工具時的一大難關。

“大模型技術發展以后，我們開始自然而然地思考，對于用戶來說，利用人工智能，以對答的方式和數字化平臺進行交互，會不會是更好的體驗？”“識典古籍”數字化平臺產品經理汪晴表示，“我們希望為研究和檢索古籍提供便利?！?/p>

基于在OCR（文字識別技術）、自然語言處理、知識圖譜等技術領域的積累，以及互聯網產品設計與研發優勢，研發團隊很快對古籍智能助手有了初步的設想：打造一款能夠幫助用戶檢索、閱讀，甚至深入挖掘古籍知識的工具。

然而，古籍智能助手只是一個具有實驗性的新事物，當初的期待想要落地還需要長久地摸索。研發團隊首先想到的是利用大模型為用戶帶來額外的驚喜。于是，經過了多輪的磨合和探索，字節跳動研發團隊決定將研發的重點放在檢索增強生成技術上。

“識典古籍”數字化平臺產品負責人王宇介紹，檢索增強生成技術是通過檢索不同資料來源，獲得所需上下文，來“增強”大模型生成答案的質量。比如從古籍數據庫里檢索古籍資料，讓獲得的上下文更加相關。在關鍵詞檢索之外，研發團隊還開發了語義檢索，讓智能助手在回答時能參考到雖然文字不一樣、但含義相關的相關古籍段落。

這也讓古籍智能助手和市場中已有的通用大模型形成了差異?！肮偶悄苤植⒉皇强壳捌谟柧殨r使用的數據和知識進行解答，而是實時調動較新的專業數據庫，這是通用大模型難以做到的?！蓖羟缯f，“我們希望古籍智能助手是具備專業度的?！?/p>

增強問答準確性

古籍智能助手的研發也并非一帆風順。對于字節跳動研發團隊來說，最大的難點莫過于大模型會產生錯誤和“幻覺”。

產生“幻覺”幾乎是大語言模型的“通病”。有學者曾指出，這種“幻覺”是指人工智能會生成貌似合理連貫，但同輸入問題意圖不一致、同世界知識不一致、與現實或已知數據不符合或無法驗證的內容。

有專家認為，從技術原理上看，人工智能“幻覺”多由于人工智能對知識的記憶不足、理解能力不足、訓練方式固有的弊端及模型本身技術的局限性導致。而現階段，大模型產生錯誤“幻覺”的情況難以完全消除。

然而，在古籍領域，基于文言文可能出現的閱讀障礙，由大模型產生的錯誤和“幻覺”讓用戶更加難以分辨。但是即便如此，字節跳動研發團隊依然希望能盡可能減少“幻覺”，并讓用戶在希望追求準確性的時候，能夠進行查證。

相關負責人表示，為了減少大模型產生的“幻覺”，團隊付出了巨大的努力：一方面，古籍智能助手使用了檢索增強生成技術，這樣就要求大模型根據從數據庫和字典中檢索到的、有一定可靠性的資料作答，在一定程度上限制了大模型產生“幻覺”；另一方面，研發團隊正在嘗試在生成的答案后附加原文鏈接，這樣對于寫作等場合，用戶就可以方便地去原文查證并且做出自己的判斷。不僅如此，在古籍智能助手的界面，研發團隊還設置了“回答由人工智能生成，請注意查證”的提示詞。

“古籍智能助手的作用是提升查閱古籍的效率。它代替不了專業的學術判斷和閱讀積累，但我們希望它能為使用古籍的人節約時間、開拓新的思路。”王宇表示。

在減少大模型“幻覺”的基礎上，古籍智能助手最終還是上線與用戶見面。在“識典古籍”數字化平臺，當用戶選中古籍中的文字并點擊“問AI”，或者輸入問題時，古籍智能助手首先會對用戶提出的問題進行意圖判斷，如果回答這個問題需要利用字典中的條目或者古籍數據庫搜索結果作為上下文，智能助手會獲取相關的上下文，然后通過大語言模型綜合總結并給出回復。

汪晴稱，古籍智能助手上線幾周后得到了較好的反饋。“很多用戶通過智能助手去理解句子含義，幫助用戶實現了從‘不懂’到‘懂’的跨越。不僅如此，展示參考引用的功能也受到了用戶的好評。雖然目前古籍智能助手還無法將參考引用完全展示，但依然有用戶表示對發現之前忽略的知識有幫助。”

讓古老經典“活”起來、傳下去

雖然古籍智能助手已經上線運行，但是研發團隊并沒有停下探索的腳步。汪晴表示，在功能方面，正在計劃逐步為古籍助手提供更多的工具，比如是否能從百科資料中檢索答案，是否能和一些更加專業的數據庫進行合作?！拔覀円蚕Ｍ脩裟軌蚨嗍褂煤头答?，為后續優化提供建議，通過實踐和應用來打磨出好的產品?！?/p>

在汪晴看來，這種探索為閱讀古籍的用戶提供了便利，也拉近了公眾和古籍之間的距離，讓經典更加觸手可及。“這也是古籍智能助手給‘識典古籍’數字化平臺帶來的較為突出的價值?！?/p>

業內普遍認為，將大模型和人工智能引入古籍保護領域是時代帶來的便利。今年全國兩會期間，有委員表示，中國是全球擁有古籍最多的國家，國內現存漢文古籍300萬部，散落在海外的古籍超過40萬部，已完成數字化的古籍7.4萬部。

可以看到，還有大量的古籍被束之高閣。不僅如此，對于古籍來說，修復的速度遠遠趕不上老化的速度，古籍數字化迫在眉睫。

對此，王宇認為，大規模解決古籍數字化的問題只能等待技術進步，而近十年，大模型和人工智能的飛速發展剛好為加速實現全部古籍數字化帶來了技術條件。

“如果現存古籍全部數字化，那么我國古籍保護就邁上了一個新臺階，古籍滅失的可能性就大幅降低了。這對于賡續中華文脈，將是一個了不起的貢獻。”有學者表示。