BERT使用过程中的碰到的那些报错

BERT是谷歌2018年提出的语言模型,在十几个任务上达到了state-of-art。在这里本人在使用过程中总结了一下遇到的错误。

BERT推荐在TPU上运行,但是资源有限在GPU上跑也行,不行也能在cpu上跑(ps就是有些慢)

 

官方BERT的版本建议在tensorflow>=1.11的版本上运行,但是在本人服务器安装的是tensorflow-gpu=1.12的情况下,程序报错,

AttributeError: module 'tensorflow.python.platform.flags' has no attribute 'mark_flag_as_required'

根据官方回答是此版本没有这个属性(ps坑爹),于是只能安装其他版本的tensorflow

但根据测试其实低于1.11版本也可以运行的,就是1.12不能运行。

而且由于服务器的cuda版本是8.0,高版本的tensorflow-gpu不支持,报错

在cuda官网有相应的tensorflow版本推荐

BERT使用过程中的碰到的那些报错

也可以直接安装cpu版本的tensorflow,在linux服务器下安装anaconda比较方便,anaconda自带pyhon环境

BERT使用过程中的碰到的那些报错

可以利用anaconda创建虚拟环境,运行不同版本的tensorflow

conda create --name  tf_cpu python=3.6

source activate tf_cpu  **环境

source deactivate  退出环境命令

环境之间不互相干扰,亲测可行。

conda install tensorflow=1.11

conda install numpy

conda install pandas