2. 程式人生 > >30分鐘實現小程式語音識別

30分鐘實現小程式語音識別

阿新 • • 發佈：2018-11-24

前言

為了參加某個作秀活動，研究了一波如何結合小程式、科大訊飛實現語音錄入、識別的實現。科大訊飛開發文件中只給出 Python 的 demo，並沒有給出 node.js 的 sdk，但問題不大。本文將從小程式相關程式碼到最後對接科大訊飛 api 過程，一步步介紹，半個小時，搭建完成小程式語音識別功能！不能再多了！當然，前提是最好掌握有一點點小程式、node.js 甚至是音訊相關的知識。

架構先行

架構比較簡單，大夥兒可以先看下圖。除了小程式，需要提供 3 個服務，檔案上傳、音訊編碼及對接科大訊飛的服務。

node.js 對接科大訊飛的 api，npm 上已經有同學提供了 sdk，有興趣的同學可以去搜索瞭解一下，筆者這裡是直接呼叫了科大訊飛的 api 介面。

架構圖

擼起袖子加油幹

1、建立小程式

鵝廠的小程式文件非常詳細，在這裡筆者就不對如何建立一個小程式的步驟進行詳細闡述了。有需要的同學可以檢視鵝廠的小程式開發文件。

1.1 相關程式碼

我們摘取小程式裡面，語音錄入和語音上傳部分的程式碼。

// 根據wx提供的api建立錄音管理物件
const recorderManager = wx.getRecorderManager();

// 監聽語音識別結束後的行為
recorderManager.onStop(recorderResponse => {
    // tempFilePath 是錄製的音訊檔案
    const
 
 { tempFilePath } = recorderResponse;

    // 上傳音訊檔案，完成語音識別翻譯
    wx.uploadFile({
        url: 'http://127.0.0.1:7001/voice', // 該服務在後面搭建。另外，小程式釋出時要求後臺服務提供https服務！這裡的地址僅為開發環境配置。
        filePath: tempFilePath,
        name: 'file',
        complete: res => {
            console.log(res); // 我們期待res，就是翻譯後的內容
        }
    });
});

// 開始錄音，觸發條件可以是按鈕或其他，由你自己決定
 

recorderManager.start({
    duration: 5000 // 最長錄製時間
    // 其他引數可以預設，更多引數可以檢視https://developers.weixin.qq.com/miniprogram/dev/api/media/recorder/RecorderManager.start.html
});
複製程式碼

2、搭建檔案伺服器

步驟 1 程式碼中提到了一個 url 地址大家應該都還記得。

http://127.0.0.1:7001/voice
複製程式碼

小程式本身還並沒有提供語音識別的功能，所以在這裡我們需要藉助於“後端”服務的能力，完成我們語音識別翻譯的功能。

2.1 egg.js 服務初始化

我們使用 egg.js 的 cli 快速初始化一個工程，當然你也可以使用 express、koa、kraken 等等框架，框架的選型在此不是重點我們就不做展開闡述了。對 egg.js 不熟悉的同學可以檢視egg.js 的官網。

npm i egg-init -g
egg-init voice-server --type=simple
cd voice-server
npm i
複製程式碼

安裝完成後，執行以下程式碼

npm run dev
複製程式碼

隨後訪問瀏覽器http://127.0.0.1:7001應該可以看到一個Hi, egg 的頁面。至此我們的服務初始化完成。

2.2 檔案上傳介面

a) 修改 egg.js 的檔案上傳配置

開啟 config/config.default.js，新增以下兩項配置

module.exports = appInfo => {
    ...
    config.multipart = {
        fileSize: '2gb', // 限制檔案大小
        whitelist: [ '.aac', '.m4a', '.mp3' ], // 支援上傳的檔案字尾名
    };

    config.security = {
        csrf: {
            enable: false // 關閉csrf
        }
    };
    ...
}

複製程式碼

b) 新增 VoiceController

開啟 app/controller 資料夾，新建檔案 voice.js。編寫 VoiceController 使其繼承於 egg.js 的 Controller。具體程式碼如下：

const Controller = require('egg').Controller;
const fs = require('fs');
const path = require('path');
const pump = require('mz-modules/pump');
const uuidv1 = require('uuid/v1'); // 依賴於uuid庫，用於生成唯一檔名，使用npm i uuid安裝即可

// 音訊檔案上傳後儲存的路徑
const targetPath = path.resolve(__dirname, '..', '..', 'uploads');

class VoiceController extends Controller {
    constructor(params) {
        super(params);
        if (!fs.existsSync(targetPath)) {
            fs.mkdirSync(targetPath);
        }
    }

    async translate() {
        const parts = this.ctx.multipart({ autoFields: true });
        let stream;
        const voicePath = path.join(targetPath, uuidv1());
        while (!isEmpty((stream = await parts()))) {
            await pump(stream, fs.createWriteStream(voicePath));
        }
        // 到這裡就完成了檔案上傳。如果你不需要檔案落地，也可以在後續的操作中，直接使用stream操作檔案流

        ...
        // 音訊編碼
        // 科大訊飛語音識別
        ...
    }
}
複製程式碼

c) 最後一步，新增路由規則

寫完 controller 之後，我們依據 egg.js 的規則，在 router.js 裡面新增一個路由。

module.exports = app => {
    const { router, controller } = app;
    router.get('/', controller.home.index);
    router.get('/voice', controller.voice.translate);
};
複製程式碼

OK，至此你可以測試一下從小程序錄音，錄音完成後上傳到後臺檔案伺服器的完整流程。如果沒問題，那恭喜你你已經完成了 80%的工作了！

3、音訊編碼服務

在上文中，小程序錄音的方法 recorderManager.start 的時候我們提及到了“更多引數”。其中有一個引數是 format，支援 aac 和 mp3 兩種（預設是 aac）。然後我們查閱了科大訊飛的 api 文件，音訊編碼支援“未壓縮的 pcm 或 wav 格式”。

什麼 aac、pcm、wav？emmm.. OK，我們只是前端，既然格式不對等，那隻需要完成 aac -> pcm 轉化即可，ffmpeg 立即浮現在筆者的腦海裡。一番搜尋，命令大概是這樣子的：

ffmpeg -i uploads/a3f588d0-edf8-11e8-b6f5-2929aef1b7f8.aac -f s16le -ar 8000 -ac 2 -y decoded.pcm

# -i 後面帶的是原始檔
# -f s16le 指的是編碼格式
# -ar 8000 編碼位元速率
# -ac 2 通道

複製程式碼

接下來我們使用 node.js 來實現上述命令。

3.1 引入相關依賴包

npm i ffmpeg-static
npm i fluent-ffmpeg
複製程式碼

3.2 建立一個編碼服務

在 app/service 資料夾中，建立 ffmpeg.js 檔案。新建 FFmpegService 繼承於 egg.js 的 Service

const { Service } = require('egg');
const ffmpeg = require('fluent-ffmpeg');
const ffmpegStatic = require('ffmpeg-static');
const path = require('path');
const fs = require('fs');

ffmpeg.setFfmpegPath(ffmpegStatic.path);

class FFmpegService extends Service {
    async aac2pcm(voicePath) {
        const command = ffmpeg(voicePath);

        // 方便測試，我們將轉碼後文件落地到磁碟
        const targetDir = path.join(path.dirname(voicePath), 'pcm');
        if (!fs.existsSync(targetDir)) {
            fs.mkdirSync(targetDir);
        }

        const target = path.join(targetDir, path.basename(voicePath)) + '.pcm';
        return new Promise((resolve, reject) => {
            command
                .audioCodec('pcm_s16le')
                .audioChannels(2)
                .audioBitrate(8000)
                .output(target)
                .on('error', error => {
                    reject(error);
                })
                .on('end', () => {
                    resolve(target);
                })
                .run();
        });
    }
}

module.exports = FFmpegService;
複製程式碼

3.3 呼叫 ffmpegService，獲得 pcm 檔案

回到 app/controller/voice.js 檔案中，我們在檔案上傳完成後，呼叫 ffmpegService 提供的 aac2pcm 方法，獲取到 pcm 檔案的路徑。

// app/controller/voice.js
...
async translate() {
    ...
    ...
    const pcmPath = await this.ctx.service.ffmpeg.aac2pcm(voicePath);
    ...
}
...
複製程式碼

4、對接科大訊飛 API

首先，需要到科大訊飛開放平臺註冊並新增應用、開通應用的語音聽寫服務。

我們再寫一個服務，在 app/service 資料夾下建立 xfyun.js 檔案，實現 XFYunService 繼承於 egg.js 的 Service。

4.1 引入相關依賴

npm i axios // 網路請求庫
npm i md5 // 科大訊飛介面中需要md5計算
npm i form-urlencoded // 介面中需要對部分內容進行urlencoded
複製程式碼

4.2 XFYunService 實現

const { Service } = require('egg');
const fs = require('fs');
const formUrlencoded = require('form-urlencoded').default;
const axios = require('axios');
const md5 = require('md5');
const API_KEY = 'xxxx'; // 在科大訊飛控制檯上可以查到服務的APIKey
const API_ID = 'xxxxx'; // 同樣可以在控制檯查到

class XFYunService extends Service {
    async voiceTranslate(voicePath) {
        // 繼上文，暴力的讀取檔案
        let data = fs.readFileSync(voicePath);
        // 將內容進行base64編碼
        data = new Buffer(data).toString('base64');
        // 進行url encode
        data = formUrlencoded({ audio: data });
        const params = {
            engine_type: 'sms16k',
            aue: 'raw'
        };
        const x_CurTime = Math.floor(new Date().getTime() / 1000) + '',
            x_Param = new Buffer(JSON.stringify(params)).toString('base64');
        return axios({
            url: 'http://api.xfyun.cn/v1/service/v1/iat',
            method: 'POST',
            data,
            headers: {
                'X-Appid': API_ID,
                'X-CurTime': x_CurTime,
                'X-Param': x_Param,
                'X-CheckSum': md5(API_KEY + x_CurTime + x_Param)
            }
        }).then(res => {
            // 查詢成功後，返回response的data
            return res.data || {};
        });
    }
}

module.exports = XFYunService;
複製程式碼

4.3 呼叫 XFYunService，完成語音識別

再次回到 app/controller/voice.js 檔案中，我們在 ffmpeg 轉碼完成後，呼叫 XFYunService 提供的 voiceTranslate 方法，完成語音識別。

// app/controller/voice.js
...
async translate() {
    ...
    ...
    const result = await this.ctx.service.xfyun.voiceTranslate(pcmPath);
    this.ctx.body = result;
    if (+result.code !== 0) {
      this.ctx.status = 500;
    }
}
...
複製程式碼

至此我們完成語音識別的程式碼編寫。主要流程其實很簡單，通過小程序錄入語音檔案，上傳到檔案伺服器之後，通過 ffmpeg 獲取到 pcm 檔案， 最後再轉發到科大訊飛的 api 介面進行識別。

以上，如有錯漏，歡迎指正！

@Author: _Jay

相關推薦

30分鐘實現小程式語音識別

前言 為了參加某個作秀活動，研究了一波如何結合小程式、科大訊飛實現語音錄入、識別的實現。科大訊飛開發文件中只給出 Python 的 demo，並沒有給出 node.js 的 sdk，但問題不大。本文將從小程式相關程式碼到最後對接科大訊飛 api 過程，一步步介紹，半個小時，搭建完成小程式語音識別功能！不能再

3分鐘實現小程式喚起微信支付 Laravel教程

微信支付的接入，如果不使用成熟的開發包，將是巨大的工作量。 依賴 EasyWechat 先在 laravel 專案中依賴 easywechat 這個包 composer require "overtrue/laravel-wechat":"^4.0" 配置 在 .env 中新增微信支付的 key 配置

微信小程式語音識別開發過程筆記

由於業務需求，需要使用微信小程式語音識別的功能，查找了好多發難，也踩了好多坑，把過程記錄一下，或許會幫助到需要的朋友。 業務需求： 在小程式中識別使用者語音輸入的命令 業務環境和關鍵技術： 1.小程式： 關鍵流程流程： 錄音儲存-->上傳錄音檔案到伺服器後臺--&g

小程式 語音識別（三）

在小程式語音識別（一）和小程式語音識別（二）中分別介紹了，小程式端的程式碼實現和java端的程式碼實現，下面說下其中遇到的問題： 1.語音轉換需要時間，注意在轉換完成在呼叫識別介面 2.注意識別完成後

微信小程式語音同步智慧識別的實現案例

[toc] #### 一、背景 在小程式的一些應用場景中，會有語音轉文字的需求。原有的做法一般是先通過小程式的錄音功能錄下語音檔案，然後再通過呼叫語音智慧識別WebApi（比如百度雲AI平臺，科大訊飛平臺）將語音檔案轉成文字資訊，以上的做法比較繁瑣且使用者的體驗性較差。 為解決此問題，**微信直接開放了同聲傳

小程式語音與訊飛語音識別踩坑過程

【由於CSDN的markdown的排版不是很好，所以整理了一下，新的地址：http://blog.csdn.net/c910511/article/details/54839160】 公司要在微信小程式上面實現語音識別的功能，後端的踩坑功能就

微信小程式人臉識別的實現

首先我們建立一個前臺的頁面設計<!--pages/camera/camera.wxml--> <camera device-position="{{device}}" flash="off" binderror="error" style="width: 1

微信小程式-人臉識別（2)實現人臉識別功能

上一篇的部落格已經將圖片存入到百度雲與自己的伺服器阿里雲上面了，接下來就是在寫一個頁面，是刷臉頁面，通過這個頁面你將自己的臉拍照，傳入到自己的伺服器上，去與存入百度雲上面的照片進行對比。下面是程式碼。前臺程式碼：<camera device-position="fron

微信小程序語音識別開發過程記錄 微信小程序silk轉mp3 silk轉wav 以及ffmpeg使用

結果 asr 需要 轉碼 折騰 發微信 語音識別 ocs wav 說說最近在開發微信小程序語音識別遇到的問題吧 最先使用微信小程序錄音控件可以拿到silk格式，後來微信官方又支持mp3格式了 但是我們拿到這些格式以後，都還不能直接使用，做語音識別，因為目前百度的語

Ubuntu16.04實現Sphinx離線語音識別

Ubuntu16.04實現Sphinx離線語音識別   版權宣告：本文為博主原創文章，未經博主允許不得轉載。 https://blog.csdn.net/boke14122621/article/details/79871224 自帶Python2.7或3.0+版本都可以

java實現小程式獲取二維碼（介面B）

應用場景： 實際應用場景：比如分享助力、名片分享之類的頁面需要生成二維碼 為滿足不同需求和場景，小程式提供了三個介面，開發者可挑選適合自己的介面 介面A：適用於需要的碼數量較少的業務場景 生成小程式碼，可接受 path 引數較長，生成個數受限，數量限制見 下面注意

微信小程式語音轉文字外掛--------wepy小dome

專案用wepy寫的以 wepy為例 export default class extends wepy.app { ..............    // 在app.json檔案中引入微信同聲傳譯外掛 plugins: {   &nb

小程式訊息推送（含原始碼）java實現小程式推送，springboot實現微信訊息推送

最近需要開發微信和小程式的推送功能，需要用java後臺實現推送，自己本身java和小程式都做，所以就自己動手實現下小程式的模版推送功能推送。 實現思路 1 小程式獲取使用者openid，收集formid傳給java後臺 2 java推送訊息給指定小程式使用

實現小程式中的自定義元件

具體實現 要做自定義元件，我們先定一個小目標，比如說我們在小程式中實現一下 WEUI 中的彈窗元件，基本效果圖如下。 Step1 我們初始化一個小程式（本示例基礎版本庫為 1.7 ），刪掉裡面的示例程式碼，並新建一個 components 資料夾，用於存放我們以後開

mpvue實現小程式購物車左滑刪除功能

大家先看看效果 使用了iview的效果   上面的效果用到了 iView Weapp，點選進入官方文件 現在開始介紹如何在微信小程式中使用iView Weapp 到GitHub下載 iView Weapp

Laravel實現小程式使用openid登陸、手機號驗證碼登陸、賬戶密碼登陸三種登陸方式

目前開發小程式，按需求要實現3種登陸方式： 1、微信授權登陸 2、賬戶密碼登陸 3、手機號、驗證碼登陸 我使用laravel自帶的Auth認證機制，通過attempt方法進行賬戶驗證，但是預設的認證機制必須包含password欄位，而我的第1、3種登陸方式都沒有

如何實現小程式使用者和公眾號使用者多點登入

需求： 1.現在有一批公眾號使用者，後期又開發了小程式，那如何讓小程式識別到這是來自公眾號的使用者呢？ 2.直接使用小程式的使用者實現快速登入？ 這是一個很常見的需求場景，要實現小程式和公眾號使用者多點登入就需要任意一方儲存好使用者的unionId，在實現該需求的過

小程式語音合成外掛使用解析

我前段時間自學了小程式併為公司開發出來了小程式專案，其中有一個需求需要語音播放一段話，我在網上找了一些語音合成的部落格感覺他們寫都都有部分遺漏，所以我就想寫一個完整一點的小程式外掛使用方法。 1.首先我們先登入小程式開發者並進入設定介面 然後找到第三方服務並點

人工智慧應用之小程式語音機器人的打造

人工智慧應用之客服機器人的打造 人工智慧技術是2018年網際網路上談論最多的話題之一。那麼關於人工智慧技術的應用話題層出不窮，比如大資料、計算機視覺、爬蟲、自然語音處理、無人汽車等等。今天張佬獅想和大家談一下關於自然語音處理方面的應用。 自言語言處理是研究計算機

如何實現小程式的無限推送

文章有點標題黨，單純的從技術上來實現無限推送暫時是不可能的。 為什麼不可能？ "推送" 在小程式官方的叫法是模板訊息。先來看看官方對他的下發條件說明： 1. 支付 當用戶在小程式內完成過支付行為，可允許開發者向用戶在7天內推送有限條數的模板訊息（1次支付可下發3條，