Win11配置多个CUDA环境
概述由于跑项目发现需要配置不同版本的Pytorch,而不同版本的Pytorch又对应不同版本的CUDA,于是有了在Win上装多个CUDA的打算
默认已经在电脑上装了一个CUDA
现在开始下载第二个CUDA版本,前面下载的操作和普通安装的几乎一样
安装CUDACUDA下载链接
下载自己需要的CUDA版本,以我自己要安装的为例
下载打开exe文件进行安装,第一步不用管,直接点击确认
后面选择自定义安装,只选择安装CUDA
其他一路下一步就可以了
安装cuDNNcuDNN下载链接
PS:下载需要登录一下账号
下载下来后,把压缩包解压,得到如下文件
将bin,include文件夹中的文件,分别复制到下列地址对应的文件夹下(CUDA的安装地址,以我的地址为例),遇到提示,为全部选择覆盖和替换。
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7
需要注意的是,lib文件夹里的所有文件,需要复制到
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\lib\x6 ...
学校GPU平台使用教程
首先连接内网登录平台
一般使用的话,直接找到开发环境一栏,创建环境。然后通过Pycharm中的ssh连接
在Pycharm中,找到工具—部署—配置
点击+后选择SFTP
在SSH配置那里后点击后面...
进入后填写主机名和用户名,这里详细讲一下
例如平台给的ssh连接是
ssh://root@paas.xxx-xxx-xx-xx.nip.io:xxxxx
这里用户名就需要填写
root
主机名填写
paas.xxx-xxx-xx-xx.nip.io
端口号填写xxxxx
然后填写创建环境时设置的密码
这一步完事以后,点击确定,返回到之前的页面,点击映射
配置好本机的地址和远程的地址,点击确认
之后选择工具—部署—选项
可以根据自己习惯决定是否配置一下
然后找到工具—启动SSH会话,选择刚刚配置的SSH
然后输入
pythonimport sysprint(sys.executable)
记住输出的地址,比如我的就是
usr/bin/python
最后,找到项目—项目XXXX—Python解释器,找到添加解释器—SSH
选择刚刚配置的SSH服务器,然后下一步
点击下 ...
使用蓝牙外设却不小心把台式机电脑蓝牙关了
起因今天犯了一个贼SB的错误,起因是蓝牙键盘突然就不能输入了(虽然是连接状态,但是按什么键都没有反应)
原来我的解决方法就是重启一下电脑,但是那会电脑开了贼多的软件。我就想重启也太麻烦了,既然重启的本质也是重启蓝牙,那我要不直接就把蓝牙重启算了,当时想到这里啊,我心中一阵狂喜,觉得我真TMD是个天才
于是我兴冲冲的找到系统设置—蓝牙,把蓝牙关了,然后当我准备开启蓝牙的时候,我傻眼了,艹,我外设都是蓝牙连接的啊,这TM开不开了
解决过程尝试用带USB接收器的鼠标我的鼠标不仅可以蓝牙连接,还可以用USB接收器连接,我心想这不是轻轻松松简简单单。于是给鼠标换了一个连接方式,插入了USB接收器。但是奇怪的事情发生了,无论我怎么动鼠标,鼠标的指针就是纹丝不动。我怀疑难道是关了蓝牙功能,连这个都影响到了吗
尝试用有线设备虽然心中有一丝紧张,但是我感觉这不就是个小事嘛,那要不找个有线的外设不就可以了。于是翻箱倒柜,刨出来家里的古董有线键盘,插入了电脑前面的USB口。
但是,重量级来了,无论按什么键,都没有反应,让我一度以为是不是键盘寄了。然后我把键盘插到了笔记本上,发现还是可以用的,灯也是亮的(但是 ...
拼模型尝试
概述记录一下自己首次组合模型的过程,希望可以为以后论文打基础。
PS:由于自己是零基础,看了一下李沐的教程,感觉理论部分有点多,没看完可能deadline都到了。唐老师的人工智能课也看了看,总感觉不是特别系统,都是一个一个项目,于是我打算效率亿点点,需要什么先学什么。
我需要跑的一个模型是这样的架构
分析问题客观分析一下我遇到的这个问题
1.目标问题
把这个架构跑通$\rightarrow$
从中文电子病历提取有用信息$\rightarrow$
进行医疗大数据挖掘、临床辅助决策系统、AI 电子病历质控系统构建等的基础工作
2.方法问题
寻找相似的项目或者使用了相似模型架构的项目,把他们的模型删删改改
删改可能需要借助到模型的官方文档,例如PaddleNLP文档,或者PyTorch文档
然后多借鉴一些博客的方法
3.执行问题
先安装一下paddle,然后尝试先把网上的项目跑通,在看懂的基础上进行修改
执行阶段安装paddleNLP# 默认前提是已经安装好了paddle(2.5.1),我之前已经安装完,现在直接进入这个环境(CUDA 11.0)conda activate paddle# ...
复现论文SpikeGPT Generative Pre-trained Language Model with Spiking Neural Networks
记录一下复现论文SpikeGPT: Generative Pre-trained Language Model with Spiking Neural Networks的过程,论文给出了项目的GitHub地址。此博客是边跑边写边改的,尽量把顺序合理化,让人可以少走一些弯路
论文概述利用工具,可以大概对此篇论文有如下了解
这篇文章介绍了SpikeGPT,这是一种基于脉冲神经网络(SNNs)的生成式语言模型。SNNs利用稀疏、事件驱动的激活方式来减少计算复杂性,提高能源效率,因此在深度学习领域有很大的潜力。虽然SNNs在计算机视觉任务上取得了成功,但在语言生成方面仍然有待进一步探索,因为它们的训练过程相对复杂。文章的作者们对Transformer模块进行了修改,消除了多头自注意力带来的二次计算复杂度,并引入循环计算,实现了逐词计算,同时保留了长程依赖关系。结果得到的SpikeGPT模型在语言生成任务上表现出竞争力,同时能耗仅为传统人工神经网络(ANNs)的五分之一。该模型还是迄今为止最大的反向传播训练的功能性SNN模型,拥有多达2.6亿个参数。这项工作为在自然语言处理任务中有效训练大规模S ...
安装PaddlePaddle
记录一下安装的过程,官方文档如下
https://www.paddlepaddle.org.cn/documentation/docs/zh/install/conda/windows-conda.html
创建虚拟环境conda create -n paddle python=3.8conda activate paddle
查看自己安装的CUDA版本nvcc -V
选择适合自己的版本,我安装的是CUDA11.2的
conda install paddlepaddle-gpu==2.5.0 cudatoolkit=11.2 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/ -c conda-forge
验证安装pythonimport paddlepaddle.utils.run_check()
本地部署chatGPT
首先打开项目网址,把代码下载下来,按照其要求安装python,git
安装完成后,检查一下自己是否安装成功,Win+R后输入cmd,在弹出来的窗口内输入python
若和下图类似,则说明安装成功
输入exit()退出python的编辑模式。继续输入git --version
说明git也安装成功。
将下载下来的压缩包解压,并用cmd进入其项目文件夹,输入
pip install -r requirements.txt
安装完毕后然后开启海外全局magic,运行
python run.py
如果遇到这个问题
找到项目中的config.json文件
把port改成8088
若出现以下界面
则可以打开
http://localhost:8088
成功部署chatGPT!
OSError [Errno 22] Invalid argument(已解决)
最近跑别人的项目遇到一个这样的问题
OSError: [Errno 22] Invalid argument xxxxxxxxxxxxxxxxxx
一开始以为是没有用管理员的权限运行,导致创建不了日志文件
后来发现是和windows的命名规则冲突了(以下来源官网地址)
命名约定以下基本规则使应用程序能够创建和处理文件和目录的有效名称,而不考虑文件系统:
使用句点将基文件名与目录或文件名称中的扩展名分隔开。
使用反斜杠 () 分隔路径的组件。 反斜杠将文件名从路径中除以,将一个目录名与路径中的另一个目录名称分开。 不能在实际文件或目录的名称中使用反斜杠,因为它是将名称分隔成组件的保留字符。
根据需要使用反斜杠作为 卷名称的一部分,例如“C:\”在“C:\path\file”或“\server\share\path\file”中为通用命名约定的“\server\share” (UNC) 名称。 有关 UNC 名称的详细信息,请参阅 最大路径长度限制 部分。
不要假定区分大小写。 例如,将 OSCAR、Oscar 和 oscar 的名称视为相同,即使某些文件系统 ((如符合 POS ...
word2vec工具实战
最开始需要新建一个conda环境
conda create -n word2vec python=3.8conda activate word2vec
然后安装一下所需要的库
pip install numpypip install scipypip install gensimpip install jieba
首先下载一下数据集zhwiki-20230701-pages-articles.xml.bz2,为了方便后续操作,这里需要把他转成txt格式的
以下是转化的文件transform_to_txt.py
#!/usr/bin/env python# -*- coding: utf-8 -*-# 修改后的代码如下:import loggingimport os.pathimport sysfrom gensim.corpora import WikiCorpusif __name__ == '__main__': program = os.path.basename(sys.argv[0]) logger = logging.getLogger(pr ...
Host文件备份
# Copyright (c) 1993-2009 Microsoft Corp.## This is a sample HOSTS file used by Microsoft TCP/IP for Windows.## This file contains the mappings of IP addresses to host names. Each# entry should be kept on an individual line. The IP address should# be placed in the first column followed by the corresponding host name.# The IP address and the host name should be separated by at least one# space.## Additionally, comments (such as these) may be inserted on individual# lines or following the machine ...