如何使用Boto3来获取单个爬虫的详细信息?

如何使用Boto3来获取单个爬虫的详细信息?

问题陈述 − 使用Python中的boto3库来获取爬虫的详细信息。

示例 − 获取名为“crawler_for_s3_file_job”的爬虫的详细信息。

更多Python相关文章,请阅读:Python 教程

解决这个问题的方法/算法

第1步 − 导入boto3和botocore异常来处理异常。

第2步 − crawler_name是必填参数。它是一个字符串,因此用户一次只能发送一个爬虫名称以获取详细信息。

第3步 − 使用boto3库创建AWS会话。确保在默认配置文件中提供了region_name。如果没有提供,则在创建会话时显式传递region_name。

第4步 − 创建一个glue的AWS客户端。

第5步 − 现在使用get_crawler函数并传递crawler_name。

第6步 − 返回爬虫的元数据。

第7步 − 处理通用异常,如果在检查作业时出现问题,会发生异常。

示例

使用以下代码来获取爬虫的详细信息

import boto3
from botocore.exceptions import ClientError

def get_one_crawler_details(crawler_name:str)
    session = boto3.session.Session()
    glue_client = session.client('glue')
    try:
        crawler_details = glue_client.get_crawler(Name=crawler_name)
        return crawler_details
    except ClientError as e:
        raise Exception("boto3 client error in get_one_crawler_details: " + e.__str__())
    except Exception as e:
        raise Exception("Unexpected error in get_one_crawler_details: " + e.__str__())
print(get_one_crawler_details("crawler_for_s3_file_job"))

输出

{'Crawler': {'Name': 'crawler_for_s3_file_job', 'Role': 'glue-role',
'Targets': {'S3Targets': [{'Path': 's3://test/', 'Exclusions': []}],
'JdbcTargets': [], 'DynamoDBTargets': [], 'CatalogTargets': []},
'DatabaseName': 'default', 'Classifiers': [], 'SchemaChangePolicy':
{'UpdateBehavior': 'UPDATE_IN_DATABASE', 'DeleteBehavior':
'DEPRECATE_IN_DATABASE'}, 'State': 'READY', 'TablePrefix': 'prod_scdk_',
'CrawlElapsedTime': 0, 'CreationTime': datetime.datetime(2018, 9, 24,
20, 42, 7, tzinfo=tzlocal()), 'LastUpdated': datetime.datetime(2020, 4,
27, 14, 49, 12, tzinfo=tzlocal()), 'LastCrawl': {'Status': 'SUCCEEDED',
'LogGroup': '/aws-glue/crawlers', 'LogStream':
'crawler_for_s3_file_job', 'MessagePrefix': ************-90ad1',
'StartTime': datetime.datetime(2020, 4, 27, 14, 49, 19,
tzinfo=tzlocal())}, 'Version': 15}, 'ResponseMetadata': {'RequestId':
'8c7dcbde-***********************-774', 'HTTPStatusCode': 200,
'HTTPHeaders': {'date': 'Sun, 28 Feb 2021 11:34:32 GMT', 'content-type':
'application/x-amz-json-1.1', 'content-length': '805', 'connection':
'keep-alive', 'x-amzn-requestid': '8c7dcbde-**********************774'},
'RetryAttempts': 0}}

Python教程

Java教程

Web教程

数据库教程

图形图像教程

大数据教程

开发工具教程

计算机教程