如何開發一個「LINE Bot 群組聊天摘要生成器」

Evan Lin2022-12-30

LINE Taiwan Technology Evangelist

前言:

大家好，我是 LINE 台灣的資深技術推廣工程師的 Evan Lin 。前一段時間， OpenAI 將他們知名的 GPTv3 的 NLP Model 開放出來給大家使用，並且提供一個好用的介面 ChatGPT 。在全世界受到相當多的注意，也看到有相當多社群的開發者有分享相關的開發案例。

我嘗試將 GPT-3 整合到 LINE 聊天機器人中
https://beta.openai.com/docs/api-reference/completions/create
https://github.com/isdaviddong/chatGPTLineBot
https://github.com/memochou1993/gpt-ai-assistant

但是其實 ChatGPT 不是直接串接到聊天機器人就好，或許他也可以幫助我們解決許多以前的痛點。以下這篇文章將分享如何透過 ChatGPT 來打造出一個專門在群組間幫你做摘要的聊天機器人。

解決的問題痛點

大家是否都有類似的問題？常常加入一個群組內，有太多的訊息在裡面跑來跑去，一回頭來看，發現已經有太多未讀的訊息在裡面了。常常需要進去後，慢慢地追每一個訊息來避免自己錯過太多 (FOMO) ？

筆者因為工作的關係，有許多群組也有相當多的訊息。以前常常思考到如何透過 NLP 或是 AI 的方式來幫助自己來整理相關內容的摘要。但是一直沒有比較好的成果。但是從 ChatGPT 橫空出世後，這個部分的功能似乎可以實現了，我們來試試看。

如何使用 ChatGPT 幫你總結群組聊天訊息

到一個聊天群組，按下複製將你需要的訊息複製起來。
將他貼到 ChatGPT 並且加上 幫我總結 即可。

幫我用繁體中文總結

```
[Evan Lin]: 我肚子餓了 . 2022-12-29 13:04:01
[Evan Lin]: 想去吃午餐 . 2022-12-29 13:04:05
[Nijia Lin]: 不知道吃什麼好 . 2022-12-29 13:04:08
[Nijia Lin]: 大家想吃什麼勒？ . 2022-12-29 13:04:13
[Evan Lin]: 我去買麥當勞 . 2022-12-29 13:04:18
```

ChatGPT 總結成果

如何打造自己的群組總結聊天機器人

原始碼：

https://github.com/kkdai/LINE-Bot-ChatSummarizer

獲取 LINE Bot API 開發者帳戶

如果你想使用 LINE Bot，請確保在 https://developers.line.biz/console/ 註冊 LINE 開發者控制台的帳號。
在「基本設定」選項卡上創建新的消息通道並獲取「Channel Secret」。
在「Messiging API」選項卡上獲取「Channel Access Token」。
從「基本設定」選項卡中打開 LINE OA 管理器，然後轉到 OA 管理器的回復設定。在那裡啟用「webhook」。

獲取 OpenAI API Token

在 https://openai.com/api/ 註冊帳戶。
一旦你有了帳戶，就可以在帳戶設定頁面找到你的 API Token。
如果你想在開發中使用 OpenAI API，你可以在 API 文檔頁面中找到更多信息和說明。

請注意，OpenAI API 只面向滿足某些條件的用戶開放。你可以在 API 文檔頁面中找到有關 API 的使用條件和限制的更多信息。

部署在 Heroku 上

輸入「Channel Secret」、「Channel Access Token」和「ChatGPT Access Token」。
記住你的 Heroku 伺服器 ID。

在 LINE Bot Dashboard 中設置基本 API：

設置你的基本帳戶信息，包括「Webhook URL」在 https://{YOUR_HEROKU_SERVER_ID}.herokuapp.com/callback。

成果

依照「如何安裝」進行相關的部署流程。
將機器人加入群組聊天室。

能夠記住群組內的對話。

直接送群組內容摘要私訊給你。

開發流程記錄 (Golang 為主)：

以下將逐步講解該如何開發出這樣的聊天機器人：

如何取得聊天群組 (group) 的資訊（透過 Webhook)，並且儲存訊息：

首先，你需要知道你有在一個聊天群組內。所以如何取得 Group ID ，並且記錄相關的訊息。這裡也順便提到，在 2022/12/27 的最新新聞，以後已經無法從 LIFF 取得 Group ID 的相關資訊。也就是說在群組中，能取得 LINE 群組 ID 只剩下透過 Webhook 的方式。

...
case *linebot.TextMessage:
        // 預設訊息
	reply := "msg ID:" + message.ID + ":" + "Get:" + message.Text + " , \n OK!"

	// 如果聊天機器人在群組中，開始儲存訊息。
	if event.Source.GroupID != "" {
	
		// 先取得使用者 Display Name (也就是顯示的名稱)
		userName := event.Source.UserID
		userProfile, err := bot.GetProfile(event.Source.UserID).Do()
		if err == nil {
			userName = userProfile.DisplayName
		}

		// event.Source.GroupID 就是聊天群組的 ID，並且透過聊天群組的 ID 來放入 Map 之中。
		q := summaryQueue[event.Source.GroupID]
		m := MsgDetail{
			MsgText:  message.Text,
			UserName: userName,
			Time:     time.Now(),
		}
		log.Println("Save msg:", m)
		summaryQueue[event.Source.GroupID] = append(q, m)
		log.Println("All msg:", q)
	}
...

快速總結：

聊天群組的 ID ( event.Source.GroupID ) : 請注意，如果是直接跟官方帳號的單獨一對一聊天。這邊的數值會是空的。
儲存資料的方式：這個範例程式主要是給大家有相關感受，所以使用記憶體加上 map 的方式來儲存。如果大家真的要上線使用，請記得搭配資料庫來使用。

如何透過 Golang 來使用 ChatGPT API

func CompleteContext(ori string) (ret string) {
	// 取得 context
	ctx := context.Background()
	
	// 主要 API Open AI Completion https://beta.openai.com/docs/guides/completion
	req := gpt3.CompletionRequest{
		// Model: Davinci003 成果最好，但是也最慢。
		Model:     gpt3.GPT3TextDavinci003,
		// 最大輸出內容，可以調整一下。
		MaxTokens: 300,
		// 輸入文字，也就是你平時在 ChatGPT 詢問他的問題。
		Prompt:    ori,
	}
	resp, err := client.CreateCompletion(ctx, req)
	if err != nil {
		ret = fmt.Sprintf("Err: %v", err)

	} else {
		// 回來的成果中，拿精準度最高的為答案。
		ret = resp.Choices[0].Text
	}
	return ret
}

快速總結：

建議使用套件: github.com/sashabaranov/go-gpt3
Model 選擇上，大家可以稍微調整。但是 Davinci001 成果真的不太好。

如何透過 API 來幫你聊天室訊息摘要

...

// 把聊天群組裡面的訊息都捲出來（依照先後順序）
oriContext := ""
q := summaryQueue[event.Source.GroupID]
for _, m := range q {
	// [xxx]: 他講了什麼... 時間
	oriContext = oriContext + fmt.Sprintf("[%s]: %s . %s\n", m.UserName, m.MsgText, m.Time.Local().UTC().Format("2006-01-02 15:04:05"))
}

// 取得使用者暱稱
userName := event.Source.UserID
userProfile, err := bot.GetProfile(event.Source.UserID).Do()
if err == nil {
	userName = userProfile.DisplayName
}

// 訊息內先回，再來總結。
if _, err = bot.ReplyMessage(event.ReplyToken, linebot.NewTextMessage("好的，總結文字已經發給您了"+userName)).Do(); err != nil {
	log.Print(err)
}

// 就是請 ChatGPT 幫你總結
oriContext = fmt.Sprintf("幫我總結 `%s`", oriContext)
reply = CompleteContext(oriContext)

// 因為 ChatGPT 可能會很慢，所以這邊後來用 SendMsg 來發送私訊給使用者。
if _, err = bot.PushMessage(event.Source.UserID, linebot.NewTextMessage(reply)).Do(); err != nil {
	log.Print(err)
}

...

快速總結：

因為 ChatGPT 的呼叫比較花時間，先回覆給使用者，再來呼叫等待答案比較好。
總結就是在所有文字前面加上一個 幫我總結 即可。記得後方要用符號包起來，避免太多簡體字的話，可以加上請用繁體中文。

未來相關工作

ChatGPT 是個很有趣的服務，本次文章透過他可以幫忙摘要一段文章的功能。來幫我們把聊天群組的聊天記錄來做一個總結。

這樣可以讓太久沒追到的人，可以快速跟上大家聊天的話題。

這次的程式碼相當的簡單易懂，希望可以拋磚引玉看到各位更多的應用。

ChatGPT 其實還有更多的應用可以探討，相信也可以透過這個服務讓 LINE 官方帳號發揮強大的功能。

如果你有任何建議或是疑問，歡迎透過 LINE Developers 的官方討論區或是LINE 開發者官方社群的官方帳號跟我們聯絡。

Blog

如何開發一個「LINE Bot 群組聊天摘要生成器」

前言:

解決的問題痛點

如何使用 ChatGPT 幫你總結群組聊天訊息

ChatGPT 總結成果

如何打造自己的群組總結聊天機器人

原始碼：

https://github.com/kkdai/LINE-Bot-ChatSummarizer

獲取 LINE Bot API 開發者帳戶

獲取 OpenAI API Token

部署在 Heroku 上

在 LINE Bot Dashboard 中設置基本 API：

成果

相關指令如下

開發流程記錄 (Golang 為主)：

如何取得聊天群組 (group) 的資訊（透過 Webhook)，並且儲存訊息：

快速總結：

如何透過 Golang 來使用 ChatGPT API

快速總結：

如何透過 API 來幫你聊天室訊息摘要

快速總結：

相關技術文件：

未來相關工作