在Ubuntu上部署中文LLAMA-2大模型

一、前言 llama2作为目前最优秀的的开源大模型,相较于chatGPT,llama2占用的资源更少,推理过程更快,本文将借助llama.cpp工具在ubuntu(x86\ARM64)平台上搭建纯CPU运行的中文LLAMA2中文模型。 二、准备工作 1、一个Ubuntu环境(本教程基于Ubuntu20 LTS版操作) 2、确保你的环境可以连接GitHub 3、建议至少60GB以上存储空间(用于存 阅读全部

Ubuntu 20.04安装指定版本mongodb的命令

---以下是 Ubuntu 20.04安装指定版本mongodb的命令,以下以安装4.4系列的4.4.22版本为例,共4行---wget -qO - https://www.mongodb.org/static/pgp/server-4.4.asc | sudo apt-key add - echo "deb [ arch=amd64,arm64 ] ht 阅读全部

解决 Ubuntu 每次登录都提示 System Restart Required 问题,关闭内核自动更新的方法

温馨提示:本文所述内容具有依赖性,可能因软硬条件不同而与预期有所差异,故请以实际为准,仅供参考。最近一段时间通过 SSH 登录 Ubuntu 系统 VPS,有时提示 *** System Restart Required ***,即便重启了,过一段时间又出现这个提示,而实际上在这期间并没有对系统进行过任何操作。问题分析出现 *** System Restart Required *** 这个提示,说明存在 /var/run/reboot-required 文件,Ubuntu 软件包可以在安装时通 阅读全部

mysql使用key分区时,分区个数为非质数时分布不均

使用KEY或LINEAR KEY时,所有奇数编号分区(p1, p3, p5, … , p2n-1)中居然没有一条数据,同时,任何一个偶数编号分区却有很多的数据,而且还不是很均匀。如下图所示:MySQL key 分区原理KEY分区的原理:通过MySQL内置hash算法对分片键计算hash值后再对分区数取模,详见:https://dev.mysql.com/doc/refman/5.7/en/partitioning-key.html按键分区与按哈希分区类似,不同的是,哈希分区使用用户定义的表达式, 阅读全部

curl访问https链接时的ssl证书问题

如果您的 PHP 环境证书有问题,可能会遇到报错,类似于cURL error 60: See http://curl.haxx.se/libcurl/c/libcurl-errors.html,请尝试按以下步骤解决:到 https://curl.haxx.se/ca/cacert.pem 下载证书文件cacert.pem,将其保存到 PHP 安装路径下。编辑 php.ini 文件,删除curl.cainfo配置项前的分号注释符(;),值设置为保存的证书文件cacert.pem的绝对路径。重启依赖 阅读全部

正则(前项肯定、后项肯定、前项否定、后项否定)

正则表达式语法中的断言,有的书上也称该语法为预查或者环视,都是一样的用法。有如下语法: (?=pattern) 零宽正向先行断言 (?!pattern) 零宽负向先行断言 (?<=pattern) 零宽正向后行断言(?<!pattern) 零宽负向后行断言例如:正则表达式(?!pattern) 是零宽负向先行断言,它会往后匹配pattern,匹配到的位置在pattern之前,并且匹配到的字符串必须不满足pattern。1、前置前项肯定?<=前面必须 阅读全部

linux硬盘挂载名称的几种方式和特点:by-uuid,by-path,by-id,/dev/sda

结论:在 /etc/fstab 配置文件中,使用什么形式的名称来标识和挂载磁盘:1、如果不会发生磁盘硬件增删、交换接口位置的情况下,通常采用 /dev/sdx 的形式。2、如果有可能发生磁盘硬件增删、交换接口位置,但不会发生磁盘LVM扩容或重新格式化的情况,可选 /dev/disk/by-uuid 。安装系统时,系统盘默认采用此方式,也是较为易用的方式。3、如果有可能发生磁盘硬件增删、交换接口位置,也可能发生扩容或重新格式化的情况,但不会使用多路径设备的情况下,dev/disk/by- 阅读全部

Ubuntu可以通过LVM(Logical Volume Manager)将不同的硬盘合并成一个逻辑卷

确认要合并的硬盘已经安装并挂载到系统上。安装LVM软件包。在终端中输入以下命令:sudo apt-get install lvm2创建物理卷。在终端中输入以下命令,将/dev/sdb1和/dev/sdc1分别创建为物理卷:sudo pvcreate /dev/sdb1 /dev/sdc1 sudo pvcreate /dev/sda /dev/sdd # 我用的命令创建卷组。在终端中输 阅读全部

MongoDB/Mysql 如何以numactl 启动,开启 NUMA 以访问所有内存

  NUMA的含义,简单点说,在有多个物理CPU的架构下,NUMA把内存分为本地和远程,每个物理CPU都有属于自己的本地内存,访问本地内存速度快于访问远程内存,缺省情况下,每个物理CPU只能访问属于自己的本地内存。对于MongoDB这种需要大内存的服务来说就可能造成内存不足。需要使用numactl以使单颗CPU能访问所有内存。  如果你是单颗CPU,或mongdo占用不会超过整体内存的一半,大概不需要此设置。有测试在mysql上,此项配置对性能影响约10%。Ubuntu 安装 numa 阅读全部

mysql8.0 彻底删除data目录后的重新初始化操作

某些时候,mysql的数据目录data需要重置,如在彻底删除data后,会导致mysql无法启动。这个时候需要重启初始化一次data目录。重新初始化可按以下步骤操作:rm -rf /mysql/data/* mysqld  --initialize以上过程中,会为root自动生成一个密码,请注意保存然后再对目录进行重新分配用户chown -R mysql:mysql /mysql/data/再重启mysql即可。此方法生成的 阅读全部

mysql主从复制中,提高从库IO的几个问题

  主库能影响从库IO的几个参数:  sync_binlog = 1000  binlog_group_commit_sync_delay = 3000  binlog_group_commit_sync_no_delay_count = 0  从库设置(8.0后为replica_开头,之前为 slave_ 开头):  transaction_write_set_extraction  = XXHASH64  replica_parallel_type = LOGICAL_CLOCK  阅读全部

mysql5.7升级到mysql8.0的一些兼容性问题整理

mysql5.7升级 到mysql8.0 兼容性问题 - mysql8.0不支持mysaim分区,有mysaim分区的需转为innodbmysql5.7升级 MariaDB 10 兼容性和性能 - mariadb 默认没有 ngram推荐升级到8.0.26以上,磁盘格式用 XFS 阅读全部

通过JS和PHP实现网站夜间模式的自动切换

这个功能主要包括三个部分夜间模式开关按钮:用来手动切换夜间模式的,自动存储显示模式 Cookie。自动夜间模式:当显示模式 Cookie 为空时并且浏览器时间大于等于22点小于6点时会自动进入夜间模式,并存储 Cookie。后端处理:PHP判断是否有显示模式 Cookie,有的话直接输出夜间 class,避免进入时网页闪烁。具体操作自动根据时间输出夜间模式类名<body class="<?php if ($_COOKIE['nightM 阅读全部

Windows 无法加载可扩展计数器 DLL“C:\Windows\system32\sysmain.dll”(Win32 错误代码 找不到指定的模块。)。

常见与系统档案缺失相关,建议您:----------------------------------------(一)重新注册dll文件:1. 请在开始菜单中搜索【命令提示符】,右击【以管理员身份运行】2. 输入以下命令:for %1 in (%windir%\system32\*.dll) do regsvr32.exe /s %1for %i in (%windir%\system32\*.ocx) do regsvr32.exe /s %i3. 完成后重启电脑,查看问题能否解决------ 阅读全部

mysql清除binlog命令:RESET MASTER和RESET SLAVE使用场景和说明

  【前言】在配置主从的时候经常会用到这两个语句,刚开始的时候还不清楚这两个语句的使用特性和使用场景。  经过测试整理了以下文档,希望能对大家有所帮助;  【一】RESET MASTER参数  功能说明:删除所有的binglog日志文件,并将日志索引文件清空,重新开始所有新的日志文件。用于第一次进行搭建主从库时,进行主库binlog初始化工作;  注意reset master 不同于purge binary log的两处地方1. reset master 将删除日志索引文件中记录的所有 阅读全部

mysql 8.0的坑收集: insert ignore的性能问题,高并发会导致锁表直到崩溃

前言:从mysql5.7升级到mysql8.0需谨慎mysql被收购后,新版本向下兼容变得越来越差,如果盲信升级,不小心就掉坑了。这就不难理解为什么mysql创始人 Monty (全名Ulf Michael Widenius) 要重新开发兼容mysql的mariaDB来应对改变。建议升级前,仔细阅读官方的升级日志,查看具体有哪些细节变化:https://dev.mysql.com/doc/relnotes/mysql/8.0/en/ 有些变化可能未在其中明确说明,那么就需要自己在线下试运行一段时 阅读全部

技术译文 | MySQL 8 需要多大的 innodb_buffer_pool_instances 值(下)

在《技术译文 | MySQL 8 需要多大的 innodb_buffer_pool_instances 值(上)》中我们在 innodb_buffer_pool_size=25G 的条件下进行了对 innodb_buffer_pool_instances 不同值的测试。本文将重复该测试,大小为 100GB 的数据库 innodb_buffer_pool_size=140G,这将是 CPU 密集型的情况。基准测试硬件配置表System | Supermicro; SY 阅读全部

技术译文 | MySQL 8 需要多大的 innodb_buffer_pool_instances 值(上)

作者:Vadim Tkachenko 翻译:管长龙 本文来源:https://www.percona.com/blog/2020/08/13/how-many-innodb_buffer_pool_instances-do-you-need-in-mysql-8/ 我曾经在文章《MySQL 5.7 安装后的性能调优》(文末链接)和《MySQL 101:调整 MySQL 性能的参数》(文末链接)中谈到过 innodb_buffer_ 阅读全部

MySQL备份工具之mydumper

1 工具介绍mydumper 是一款社区开源的逻辑备份工具。该工具主要由 C 语言编写,目前由 MySQL 、Facebook 等公司人员开发维护。官网地址:https://launchpad.net/mydumperGitHub 地址:https://github.com/maxbube/mydumper参考官方介绍,mydumper 主要有以下几点特性:支持多线程导出数据,速度更快;支持一致性备份;支持将导出文件压缩,节约空间;支持多线程恢复;支持以守护进程模式工作,定时快照和连续 阅读全部

mongodb复制集设置步骤

执行以下步骤之前,先在防火墙中放开指定IP的27017端口TCP连接。mongodb复制集设置步骤假设有2个节点,分别是:192.168.3.190:27017 和 192.168.3.192:270171、在各个节点的 config 文件中,设置复制集配置信息。绑定各自对外IP (推荐用内网IP,如使用公网IP,需同时指定密码)在主节点:net:   port: 27017   bindIp: 127.0.0.1,192.168. 阅读全部