当前位置: 首页 > article >正文

Python爬虫基础文件操作

文件操作

引言

爬虫爬取的一切内容都是在内存进行的,这样会有什么问题吗?如果一旦短电或着发生意外电脑关机了那么你的工作成果将瞬间消失。所以,我们还缺少数据在本地文件系统进行持久化的能力,简单的来说就是文件读写操作。文件读写操作在爬虫中是必不可缺少的一部分。

文件打开

Python中内置了一个open()方法,用于对文件读写操作。使用open()方法操作文件可以分三步,一是打开文件,二是操作文件,三是关闭文件。

文件句柄/文件描述符

open()方法返回值是一个file对象,可以将它赋值给一个变量,这个变量就是所谓的文件句柄

file对象

可以调用read()和write()方法,对打开的文件进行读写操作

open方法的语法

f = open(fliename,mode)

filename

一个包含了你要访问的文件名称的字符串值,通常是文件路径。文件路径作用:定位到指定文件

mode

打开文件的模式,默认是只读r

文件打开的模式

常规文件打开模式操作示例

b模式:

二进制模式,通常用于读取图片、视频等二进制文件,注意,它在读写的时侯以bytes类型读写的,因此获得的是bytes对象而不是字符串在这个读写过程中,需要自己指定编码格式。在使用带b的模式一定要注意传入的数据类型,确保为bytes类型。

+模式:

对于w+模式,在读写之前都会清空文件的内容,建议不要使用。

对于a+模式,永远只能在文件末尾写入,有局限性。

对于r+模式,也就是读写模式,配合seek()和tell()方法可以实现更多操作

编码问题

要读取非utf-8文件,需要给open()函数传入encoding参数,例如,读取GBK编码的文件。

遇到一些编码不规范的文件,可能会抛出UnicodeDecodeError异常这表示在文件中可能掺杂了一些非法编码的。遇到这种情况可以提供errors='ignore'参数,表示如果遇到编码错误后如何处理。

文件对象操作

每当我们用open()方法打开文件时,将返回文件对象。这个对象内置了很多操作方法。

f.read(size)#size读取数据的个数

读取一定大小的数据,然后作为字符串或字节对象返回,size是一个可选的数字类型的参数,用于指定读取的数据量。当size被忽略了或者为负值,那么该文件的所有内容都将被读取并且返回。

注意:如果文件体积较大,建议不要使用read()方法一次性读入内存,而是read(512)一点一点的读。

f.readline()

从文件一行读取n内容。换行'\n'。如果返回一个空字符串,说明已经读取到最后一行。这种方法通常是读一行处理一行,并且不能回头读过的行不能在读了。

f.readlines()

件文件中所有的行,一行一行全部读入一个列表内,按顺序一个一个全部读入列表内,并返回这个列表。readlines方法一次性将文件全部读入内存,所以也存在一定的问题。但是它有个好处,每行都保存在列表里,可以随意存取。

fp = open('./text.txt','r')
text = for.read(10) #读取指定字节的数据
text_line = fp.readline() #一次读取一行数据
text_lines = fp.readlines() #读取多行数据返回一个列表
print(text_lines)
fq.close()

f.seek()

如果需要改变文件指针的位置,可以使用f.seek(offset,from_what)方法。seek()经常和tell()方法配合使用。

from_what

如果是0表示从文件开头计算

如果是1表示表示从文件读写指针的当前位置开始计算

2表示从文件结尾开始计算,默认是0

offset:表示偏移量

seek(x,0):从文件首行首字符开始移动x个字节

seek(x,1):表示从当前位置往后移动x个字节

seek(-x,2):表示从文件的末尾往前移动x个字节

fp=open('./text.txt','r')
fp.seek(9,0)
text=fp.read(5)
print(text)

f.tell()

返回文件读写指针当前所处的位置,它是从文件开头开始算起的字节数。一定要注意是字节数,而不是字符数。

fp=open('./text.txt','r')
print(fp.tell)
fp.close()

f.write()

将字符串或bytes类型的数据写入文件内。write()动作可以多次重复进行,其实都是在内存中操作,并不会立刻写入硬盘,直到执行close()方法后,才会将所有的的写入操作反映到硬盘上,在这个过程中,如果想将内存中修改,立刻保存到硬盘上,可以使用f.flush()方法。

fp=open('./text.txt','w')
fp.write('hello')
fp.close() #清空后写入
fp=open('./text.txt','a')
fp.write('hello')
fp.close() #追加


http://www.kler.cn/a/556207.html

相关文章:

  • Grok 3 开源体验与访问指南
  • 分布式与集群,二者区别是什么?
  • 推荐一个github star45k+进阶的java项目及知识的网站
  • html - - - - - modal弹窗出现时,页面怎么能限制滚动
  • 处理器架构、单片机、芯片、光刻机之间的关系
  • Flutter开发的应用页面非常多时如何高效管理路由
  • vue2和vue3的按需引入的详细对比通俗易懂
  • 《DeepSeek量化炒股入门到精通》
  • 51c自动驾驶~合集51
  • 如何在 SpringBoot 项目使用 Redis 的 Pipeline 功能
  • 删除hive用户后该用户创建的表权限问题及修复
  • 策略模式Spring框架下开发实例
  • 基于Java实现宠物领养救助交流平台设计和实现
  • Ubuntu编译jetlinks-ui-vue
  • S7-1200的三种启动模式
  • 覆盖从供应、生产、销售到运营的全过程,引领行业数智化转型新方向的智慧快消开源了
  • 通俗易懂的DOM事件模型指南
  • 算法——Boyer-Moore算法
  • 什么容错性以及Spark Streaming如何保证容错性
  • JavaScript变量的作用域介绍