目录

菠萝🍍的博客

有谁不喜欢吃菠萝呢

X

你有多久没有看星星了呢?【爬取NASA的科普网站上的所有图片】

1. 前景提要

在网上冲浪的时候看到原来NASA航天局有科普网站,每天一张科普图片,而且是非常高清的那种,很想下载下来做壁纸。

所以打算写一个Java爬虫爬取所有的图片,也可以加入一些通知,每天晚上进行检查,当检查到有更新的时候,第二天早上起床推送到手机端。当然这个功能还没有实现。

2. 进行开发

2.1 开发环境

  • Maven
  • Java 17 (为了顺行Spring Framework 6 之后的潮流,所以打算之后的开发都用Zulu JDK17)
  • WebMagic(Java的爬虫框架)

2.2 Maven pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.yeahvin</groupId>
    <artifactId>getStars</artifactId>
    <version>1.0.1-SNAPSHOT</version>

    <properties>
        <maven.compiler.source>17</maven.compiler.source>
        <maven.compiler.target>17</maven.compiler.target>
    </properties>

    <dependencies>
        <dependency>
            <groupId>us.codecraft</groupId>
            <artifactId>webmagic-core</artifactId>
            <version>0.7.5</version>
        </dependency>
        <dependency>
            <groupId>us.codecraft</groupId>
            <artifactId>webmagic-extension</artifactId>
            <version>0.7.5</version>
        </dependency>
        <dependency>
            <groupId>org.slf4j</groupId>
            <artifactId>slf4j-api</artifactId>
            <version>1.7.25</version>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <version>1.18.20</version>
            <scope>provided</scope>
        </dependency>
        <dependency>
            <groupId>ch.qos.logback</groupId>
            <artifactId>logback-classic</artifactId>
            <version>1.2.3</version>
        </dependency>
    </dependencies>


    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
                <configuration>
                    <mainClass>com.yeahvin.StartApplication</mainClass>
                    <layout>ZIP</layout>
                </configuration>
                <executions>
                    <execution>
                        <goals>
                            <goal>repackage</goal>
                        </goals>
                    </execution>
                </executions>
            </plugin>
        </plugins>
    </build>
</project>

2.3 Java爬虫webmagic 的使用

这个框架也是非常容易上手和使用,官方手册在这里 WebMagic in Action

对于这个框架的使用,这里简单的介绍一下,如下图,我们开发者需要在整个流程中需要做的是:

  1. 编写PageProceser
  2. 编写Pipeline

就可以完成一个非常简单的爬虫。推荐大家先看看这个例子:第一个例子

image

在这个项目中,对于整个nasa网站的分析其实非常的简单,流程大概是

请求总览页面-->获取已经存在所有链接,进行遍历-->请求详情网页--->下载图片

启动类

ok, 那么来进行开发,编写StartApplication,这是启动爬虫的地方。

package com.yeahvin;

import com.yeahvin.pageProcessors.NasaStarsProcessor;
import com.yeahvin.pipelines.NasaStarsPipeline;
import lombok.extern.slf4j.Slf4j;
import us.codecraft.webmagic.Spider;

/**
 * @author Asher
 * on 2021/11/6
 */
@Slf4j
public class StartApplication {

    //下载图片存储路径
    public static final String DOWNLOAD_PATH = "/Users/asher/gitWorkspace/temp/";
    public static final String INDEX_PATH = "https://apod.nasa.gov/apod/archivepix.html";

    public static void main(String[] args) {
        Spider.create(new NasaStarsProcessor())
                .addUrl(INDEX_PATH)
                .addPipeline(new NasaStarsPipeline())
                .run();
    }
}

以上代码中,Spider.create(Processor)可以非常快速的构建一个爬虫,然后 addUrl配置请求的地址,addPipeline配置当爬虫抓取到数据时应该怎么进行处理,最后就是run进行启动了

编写NasaStarsProcessor

编写这个的原因是为了,请求到网页之后,怎么对网页上的内容进行一个分析和处理

package com.yeahvin.pageProcessors;

import com.yeahvin.StartApplication;
import com.yeahvin.utils.StringUtil;
import lombok.extern.slf4j.Slf4j;
import org.apache.commons.lang3.StringUtils;
import us.codecraft.webmagic.Page;
import us.codecraft.webmagic.Site;
import us.codecraft.webmagic.processor.PageProcessor;

import java.io.File;
import java.util.Arrays;
import java.util.List;
import java.util.Optional;
import java.util.regex.Pattern;
import java.util.stream.Collectors;

import static com.yeahvin.StartApplication.DOWNLOAD_PATH;

/**
 * @author Asher
 * on 2021/11/6
 */
@Slf4j
public class NasaStarsProcessor implements PageProcessor {

    private Site site = Site.me().setRetryTimes(5).setSleepTime(1000).setTimeOut(10000);

    @Override
    public void process(Page page) {
        if (page.getUrl().regex(StartApplication.INDEX_PATH).match()){

            //获取文件夹下已经保存的文件
            File saveDir = new File(DOWNLOAD_PATH);
            List<String> fileNames = Arrays.stream(Optional.ofNullable(saveDir.listFiles()).orElse(new File[]{}))
                    .map(File::getName)
                    .collect(Collectors.toList());

            log.info("开始主页抓取");
            List<String> starsInfos = page.getRawText()
                    .lines()
                    .map(line -> {
                        List<String> infoList = StringUtil.getRegexString(line, "^\\d{4}.*<br>$");
                        boolean flag = infoList.size() > 0;
                        return flag ? infoList.get(0) : null;
                    })
                    .filter(StringUtils::isNoneBlank)
                    .collect(Collectors.toList());

            starsInfos.forEach(info -> {
                String link = StringUtil.getRegexString(info, "ap.*html").get(0);
                String name = StringUtil.getRegexString(info, ">.*</a>").get(0)
                        .replace("</a>", "")
                        .replace(">", "");

                //如果已经存在对应的文件,则进行跳过
                if (fileNames.stream().filter(fileName -> fileName.contains(name)).count() > 0) {
                    log.info("文件 [{}] 已经存在,进行跳过", name);
                    return;
                }
                page.addTargetRequest("https://apod.nasa.gov/apod/" + link);
            });
            log.info("完成主页抓取,一共有{}条数据", starsInfos.size());
        }else {
            page.getRawText()
                .lines()
                .filter(line -> line.contains("<title>")
                        || Pattern.compile("<a href=\"image.*jpg.*\">").matcher(line).find()
                        || Pattern.compile("<a href=\"image.*jpg.*\"").matcher(line).find()
                )
                .forEach(line -> {
                    if (line.contains("<title>")){
                        String date = StringUtil.getRegexString(line, "\\d{4}.*-").get(0)
                                .replace("-", "");
                        String name = StringUtil.getRegexString(line, "-.*").get(0)
                                .replace("-", "");
                        page.putField("date", date);
                        page.putField("name", name);
                    }else {
                        String imageLink = StringUtil.getRegexString(line, "image.*jpg").get(0);
                        page.putField("imageLink", imageLink);
                    }
                    page.putField("url", page.getUrl());
                });

        }
    }

    @Override
    public Site getSite() {
        return site;
    }
}

以上代码的逻辑大概是:

  • 属性配置一个Site,作为爬虫请求网页时的配置。

  • 实现接口 Pag

  • Processor ,需要重写方法 process

  • 在方法 process中,先请求总览页面,通过if进行了判断,如果进来的请求和总览页一样,则跳到详情页处理,就是在else中。为什么可以这样进行操作,因为在 if(true)的条件处理中,可以通过以下代码直接在当前 Processor再请求一次放入的link,就不必重复编写Processor,节省开发量。

    page.addTargetRequest("https://apod.nasa.gov/apod/" + link);
    
  • 其中在if条件==true的时候,会先拿取指定保存文件夹中的所有文件的文件名,当应用中途停止在此启动时,不用把之前的网页再跑一遍。然后 getRawText()获取到网页文本内容,通过正则进行过滤,拿到所有详情页的link

  • 所以else中的就是详情页的代码处理过程,例如Astronomy Picture of the Day 界面获取到网页内容后的处理过程。其中 getRawText()获取到网页文本内容,通过正则进行过滤,page.putField("date", date);放入page变量中,当中放入的值会被传入启动类 StartApplication指定的 NasaStarsPipeline中的方法。

编写NasaStarsPipeline

编写这个NasaStarsPipeline就是为了在上面的Processor放入Field之后,我们需要对Field的内容进行处理的过程。

其中大致的逻辑是:

  • 获取到详情页的具体信息,比如name,date以及图片的下载链接,然后对图片进行下载。这里需要注意的是,有时候打开的详情页并不一定是图片,还有可能是视频,当出现无法以图片的方式进行解析的时候,这里的处理方式是直接进行跳过。保存错误日志。
package com.yeahvin.pipelines;

import com.yeahvin.utils.X509TrustManager;
import lombok.extern.slf4j.Slf4j;
import org.apache.commons.lang3.StringUtils;
import us.codecraft.webmagic.ResultItems;
import us.codecraft.webmagic.Task;
import us.codecraft.webmagic.pipeline.Pipeline;

import java.io.File;

import static com.yeahvin.StartApplication.DOWNLOAD_PATH;

/**
 * @author Asher
 * on 2021/11/6
 */
@Slf4j
public class NasaStarsPipeline implements Pipeline {

    @Override
    public void process(ResultItems resultItems, Task task) {
        if (resultItems.getAll()!=null && resultItems.getAll().size()>0){
            String date = resultItems.get("date");
            String name = resultItems.get("name");
            String imageLink = resultItems.get("imageLink");

            if (StringUtils.isBlank(imageLink)){
                log.error("获取图片下载链接失败,name:{}, date:{}, url:{}", name, date, resultItems.get("url"));
                return;
            }

            String fileName = date + name + ".jpg";
            if (new File(DOWNLOAD_PATH + fileName).exists()) {
                log.info("下载图片{}已经存在,跳过,name:{}, date:{}", imageLink, name, date);
                return;
            }
            try {
                X509TrustManager.downLoadFromUrlHttps("https://apod.nasa.gov/apod/" + imageLink, fileName, DOWNLOAD_PATH);
            } catch (Exception e) {
                log.error("图片下载失败:", e);
                e.printStackTrace();
            }
            log.info("下载图片{}完成,name:{}, date:{}", imageLink, name, date);
        }
    }

}

当你写完这么多的时候,整个代码其实就已经完成了,后面可以再做一些扩展。
比如图片多线程的下载,每天定时任务去执行,这里的话我是通过shell脚本去完成这个定时任务的,就不打算常挂这个应用在内存中。

3. 代码

地址:getStars


标题:你有多久没有看星星了呢?【爬取NASA的科普网站上的所有图片】
作者:MingGH
地址:https://runnable.run/articles/2021/11/06/1636206354612.html