小程序模板網(wǎng)

微信小程序云開發(fā)js抓取網(wǎng)頁(yè)內(nèi)容

發(fā)布時(shí)間:2021-05-31 11:39 所屬欄目:小程序開發(fā)教程

最近在研究微信小程序的云開發(fā)功能。云開發(fā)最大的好處就是不需要前端搭建服務(wù)器,可以使用云端能力,從零開始寫出來(lái)一個(gè)能上線的微信小程序,避免了買服務(wù)器的開銷,對(duì)于個(gè)人來(lái)嘗試練手微信小程序從前端到后臺(tái)的開發(fā),還是一個(gè)不錯(cuò)的選擇??梢宰龅揭惶炀湍苌暇€一個(gè)微信小程序。

云開發(fā)的優(yōu)點(diǎn)

云開發(fā)為開發(fā)者提供完整的云端支持,弱化后端和運(yùn)維概念,無(wú)需搭建服務(wù)器,使用平臺(tái)提供的 API 進(jìn)行核心業(yè)務(wù)開發(fā),即可實(shí)現(xiàn)快速上線和迭代,同時(shí)這一能力,同開發(fā)者已經(jīng)使用的云服務(wù)相互兼容,并不互斥。

云開發(fā)目前提供三大基礎(chǔ)能力支持:

云函數(shù):在云端運(yùn)行的代碼,微信私有協(xié)議天然鑒權(quán),開發(fā)者只需編寫自身業(yè)務(wù)邏輯代碼數(shù)據(jù)庫(kù):一個(gè)既可在小程序前端操作,也能在云函數(shù)中讀寫的 JSON 數(shù)據(jù)庫(kù)存儲(chǔ):在小程序前端直接上傳/下載云端文件,在云開發(fā)控制臺(tái)可視化管理

好了,介紹了這么多關(guān)于云開發(fā)的知識(shí),感性的同學(xué)可以去研究研究。官方文檔地址:https://developers.weixin.qq....

網(wǎng)頁(yè)內(nèi)容抓取

小程序是關(guān)于答題的,所以題目的來(lái)源是一個(gè)問題。上網(wǎng)搜,一個(gè)題目一個(gè)題目粘貼是一種方法,但是這樣的重復(fù)工作,估計(jì)粘個(gè)10左右就想放棄了。所以想到了網(wǎng)頁(yè)抓取。正好把之前學(xué)的node撿起來(lái)。

必備工具:Cheerio。一個(gè)類似于服務(wù)器端JQuery的包。主要用它來(lái)分析和過濾抓取來(lái)的內(nèi)容。node的fs模塊。這個(gè)是node自帶的模塊,用來(lái)讀寫文件的。此處用來(lái)將解析好的數(shù)據(jù)寫入json文件。Axios(非必須)。用來(lái)抓取網(wǎng)站的HTML網(wǎng)頁(yè)。因?yàn)槲乙臄?shù)據(jù)是從網(wǎng)頁(yè)上點(diǎn)擊一個(gè)button后獲取渲染的,所以直接訪問這個(gè)網(wǎng)址是抓取不到的。無(wú)奈只能將想要的內(nèi)容復(fù)制出來(lái),存成字符串,去解析這個(gè)字符串。

接下來(lái)就可以用npm init來(lái)初始化一個(gè)node項(xiàng)目,一路回車后,即可生成一個(gè)package.json文件。
然后npm install --save axios cheerio安裝cheerio和axios包。

關(guān)鍵的是用cheerio來(lái)實(shí)現(xiàn)一個(gè)類似jquery的功能。只需將抓取到的內(nèi)容cheerio.load(quesitons)一下即可,之后就可以按照jquery的操作取dom,組裝你想要的數(shù)據(jù)了。

最后用fs.writeFile將數(shù)據(jù)保存到j(luò)son文件中,大功告成。

具體代碼如下:

let axios = require(axios);

let cheerio = require(cheerio);

let fs = require(fs);

// 我的html結(jié)構(gòu)大致如下,有很多條數(shù)據(jù)

const questions = `

    `;

 

const $ = cheerio.load(quesitons);

var arr = [];

for (var i = 0; i < 300; i++) {
   var obj = {};
   obj.quesitons = $(#q + i).find(.question).text();
   obj.A = $($(#q + i).find(.answer)[0]).text();
   obj.B = $($(#q + i).find(.answer)[1]).text();
   obj.C = $($(#q + i).find(.answer)[2]).text();
   obj.D = $($(#q + i).find(.answer)[3]).text();
   obj.index = i + 1;
   obj.answer =
     $($(#q + i).find(.answer)[0]).attr(value) == 1
       ? A
       : $($(#q + i).find(.answer)[1]).attr(value) == 1
         ? B
         : $($(#q + i).find(.answer)[2]).attr(value) == 1
           ? C
           : D;
   arr.push(obj);
}

fs.writeFile(poem.json, JSON.stringify(arr), err => {
   if (err) throw err;
   console.log(json文件已成功保存!);

});

保存到j(luò)son后的文件格式如下,這樣就可以通過json文件上傳到云端服務(wù)器了。

/

 

注意事項(xiàng)

微信小程序云開發(fā)的數(shù)據(jù)庫(kù),上傳json文件的數(shù)據(jù)格式需要注意一下,之前一直提示格式錯(cuò)誤,后來(lái)才發(fā)現(xiàn),JSON 數(shù)據(jù)不是數(shù)組,而是類似 JSON Lines,即各個(gè)記錄對(duì)象之間使用 n 分隔,而非逗號(hào)。所以還需要對(duì)node寫出來(lái)的json文件做一個(gè)小處理之后才能上傳成功。


易優(yōu)小程序(企業(yè)版)+靈活api+前后代碼開源 碼云倉(cāng)庫(kù):starfork
本文地址:http://22321a.com/wxmini/doc/course/25858.html 復(fù)制鏈接 如需定制請(qǐng)聯(lián)系易優(yōu)客服咨詢:800182392 點(diǎn)擊咨詢
QQ在線咨詢