
正文
mysql怎么设置大文件 mysql大文件导入
提示:扫一扫查出行【扫一扫了解最新限行尾号】
复制提示
mysql 设置max_allowed_packet
MySQL 8.0单个packet可以允许mysql怎么设置大文件的最大值是1GB。
当MySQL客户端或 mysqld 服务器收到大于 max_allowed_packet 字节的数据包时 mysql怎么设置大文件,它将发出 ER_NET_PACKET_TOO_LARGE 错误并关闭连接。对于某些客户端,Lost connection to MySQL server during query如果通信数据包太大,也可能会出错。
客户端和服务器都有自己的 max_allowed_packet 变量,因此,如果要处理大数据包,则必须在客户端和服务器中都增加此变量。
如果使用的是 mysql 客户端程序,则其默认 max_allowed_packet 变量为16MB。要设置更大的值,请 像这样启动 mysql :
这会将数据包大小设置为32MB。
服务器的默认 max_allowed_packet 值为64MB。如果服务器需要处理大型查询(例如,如果您使用大型 BLOB 列),则可以增加此值 。例如,要将变量设置为128MB,请按以下方式启动服务器:
您还可以使用选项文件进行设置 max_allowed_packet 。例如,要将服务器的大小设置为128MB,请在选项文件中添加以下几行:
可以安全地增加此变量的值,因为仅在需要时才分配额外的内存。例如, mysqld 仅在发出长查询或 mysqld 必须返回大结果行时才分配更多内存。变量的较小默认值是一种预防措施,可用于捕获客户端和服务器之间的错误数据包,并确保不会因意外使用大数据包而导致内存不足。
也可以在Navicat mysql中修改 工具——服务器监控——MySQL——变量
MySQL的四种 BLOB 类型: (单位:字节)
TinyBlob : 最大 255
Blob : 最大 65K
MediumBlob : 最大 16M
LongBlob : 最大 4G
翻译自官网:
相关问答
Q1: mysql 参数调优(2)之设置重做日志文件的大小 innodb_log_file_size
我们知道redo log包括 buffer和log file的部分,这里的innodb_log_file_size是配置log file的大小的。
innodb_log_file_size这个选项是设置 redo 日志(重做日志)的大小。这个值的默认为5M,是远远不够的,在安装完mysql时需要尽快的修改这个值。如果对 Innodb 数据表有大量的写入操作,那么选择合适的 innodb_log_file_size 值对提升MySQL性能很重要。然而设置太大了,就会增加恢复的时间,因此在MySQL崩溃或者突然断电等情况会令MySQL服务器花很长时间来恢复。
由于事务日志相当于一个写缓冲,而小日志文件会很快的被写满,这时候就需要频繁地刷新到硬盘,速度就慢了。如果产生大量的写操作,MySQL可能就不能足够快地刷新数据,那么写性能将会降低。
大的日志文件,另一方面,在刷新操作发生之前给你足够的空间来使用。反过来允许InnoDB填充更多的页面。对于崩溃恢复 – 大的重做日志意味着在服务器启动前更多的数据需要读取,更多的更改需要重做,这就是为什么崩溃恢复慢了。
如果不配的后果:默认是5M,这是肯定不够的。
最后,让我们来谈谈如何找出重做日志的正确大小。
幸运的是,你不需要费力算出正确的大小,这里有一个经验法则:在服务器繁忙期间,检查重做日志的总大小是否够写入1-2小时。你如何知道InnoDB写入多少,使用下面方法可以统计60秒内地增量数据大小:
mysql show engine innodb status\G select sleep(60); show engine innodb status\G
Log sequence number 4631632062
...
Log sequence number 4803805448
mysql select (4803805448-4631632062) 60/1024/1024;
+--------------------------------------+
| (4803805448-4631632062) 60/1024/1024 |
+--------------------------------------+
| 9851.84017181 |
+--------------------------------------+
1 row in set (0.00 sec)
在这个60s的采样情况下,InnoDB每小时写入9.8GB数据。所以如果innodb_log_files_in_group没有更改(默认是2,是InnoDB重复日志的最小数字),然后设置innodb_log_file_size为10G,那么你实际上两个日志文件加起来有20GB,够你写两小时数据了。
更改innodb_log_file_size的难易程度和能设置多大取决于你现在使用的MySQL版本。特别地,如果你使用的是5.6之前的版本,你不能仅仅的更改变量,期望服务器会自动重启。
好了,下面是步骤:
1、在my.cnf更改innodb_log_file_size
2、停止mysql服务器
3、删除旧的日志,通过执行命令rm -f /var/lib/mysql/ib_logfile*
4、启动mysql服务器 – 应该需要比之前长点的时间,因为需要创建新的事务日志。最后,需要注意的是,有些mysql版本(比如5.6.2)限制了重做日志大小为4GB。所以在你设置innodb_log_file_size为2G或者更多时,请先检查一下MySQL的版本这方面的限制。
Q2: 怎样限制MySQL数据库文件的大小?
mysql怎么设置大文件,先计算mysql数据库目录下mysql怎么设置大文件的每个数据库大小,然后与容量限制进行比较,如果超过容量,则revoke该数据库的insert权限,让用户数据库不能再增长。
脚本如下:
###begin srcript --author pat.dong####
# 如果用户空间超过,此文件将会作为邮件的内容发送到用户信箱
sizeover="/etc/sizeover.log"
dblist="/tmp/dblist"
mysql_path=/usr/local/mysql/bin
# 将数据库名称输出
$mysql_path/mysql -uroot -e "show databases"$dblist
# 删除第一栏 "Database"
sed 1d $dblist /tmp/tmp123456
cat /tmp/tmp123456 $dblist
# 数据库的数据路径
DB_PATH="/www/mysql"
# 用户所能使用的最大空间 单位 kb
LIMIT_SIZE=2048
#mysql_quota文件记录每个数据库的配额,内容如下:
####mysql_quota file begin######
cn-ce 10000
cnmr 2048
fulin 2048
ishunde 2048
jljust 15000
####end mysql_quota#####
# mysql 这个数据库不必改
cat $dblist | while read b; do
if [ $b != "mysql" ] [ -d $DB_PATH/$b ]
then
SIZE=`du $DB_PATH/$b -sk|awk {'print $1'};`
LIMIT_SIZE=`cat quota |grep $b|awk {'print $2'}`
echo "User Size is "$SIZE",Limt Size is "$LIMIT_SIZE;
if [ $SIZE -gt $LIMIT_SIZE ]
then
# mysql -uroot -prootpwd -n -e "revoke insert on $b.* from $b@hostname"
# sendmail $b@mail.com $sizeover
echo $b" is over quota";
else
# mysql -uroot -prootpwd -n -e "grant insert on $b.* to $b@hostname"
echo $b" is no over quota";
fi
# mysql -uroot -prootpwd -n -e "flush privileges"
fi
done
####end script#####
Q3: 怎么修改mysql的数据文件大小
打开在节点中加入一句:max_allowed_packet=5M 将MySQLmysql怎么设置大文件的容量扩大到5M
# The TCP/IP Port the MySQL Server will listen on
port=3306
max_allowed_packet = 5M
#Path to installation directory. All paths are usually resolved relative to this.
basedir=../
Q4: mysql怎么导入大型sql文件
打开MySQL安装目录下的my.ini文件,添加max_allowed_packet,设置大小为64M,如下:
在服务中重新启动MySQL服务,在命令行窗口(命令:show VARIABLES like '%max_allowed_packet%';)查看是否修改成功:
3
在命令行窗口中使用source命令(source sql文件路径)导入sql文件,如下(我们可以看到,执行效率比较高):
4
在Navicat Premium工具中查看是否导入成功:
5
查询导入表的数量(小编工导入了44张表,每张表的都有超过五百万条数据)
Q5: 怎样限制MySQL数据库文件的大小
非root用户运行MySQL,当MySQL配置比较高时,MySQL运行中生效的参数值与配置的值不一样,所以具体分析一下MySQL是怎么调整这些参数值的。
这篇文章的目的是为了说明在系统资源不够的情况下,MySQL 是怎么调整者三个参数的。说明此文涉及到三个参数open_files_limit、 max_connections、 table_open_cache。与这三个参数相关的系统资源是打开文件数限制,即文件描述符(fd)限制。系统参数与文件描述符的关系 - max_connection fd : 每一个MySQL connection 都需要一个文件描述符;
- table_open_cache fd 打开一张表至少需要一个 文件描述符,如打开MyISAM需要两个fd ;
- 系统最大打开文件数可以通过 ulimit -n查看。MySQL调整参数的方式
根据配置(三个参数的配置值或默认值)计算 request_open_files(需要的文件描述符);
2.获取有效的系统的限制值effective_open_files; 3.根据effective_open_files调整request_open_files; 4.根据调整后的request_open_files,计算实际生效的参数值(show variables 可查看参数值)。计算request_open_filesrequest_open_files有三个计算公式:1. // 最大连接数+同时打开的表的最大数量+其他(各种日志等等)2. limit_1= max_connections+table_cache_size * 2 + 10;3. 4. //假设平均每个连接打开的表的数量(2-4)5. //源码中是这么写的:6. //We are trying to allocate no less than 7. // max_connections*5 file handles8. limit_2= max_connections * 5;9. 10. //mysql 默认的默认是500011. limit_3= open_files_limit ? open_files_limit : 5000;12. 13. 所以open_files_limit期待的最低14. request_open_files= max(limit_1,limit_2,limit_3);计算effective_open_files:MySQL 的思路:
在有限值的的范围内MySQL 尽量将effective_open_files的值设大。
修正request_open_files
requested_open_files= min(effective_open_files, request_open_files)
重新计算参数值
修正open_files_limit
open_files_limit = effective_open_files
修正max_connections
max_connections 根据 request_open_files 来做修正。1. limit = requested_open_files - 10 - TABLE_OPEN_CACHE_MIN * 2;
如果配置的max_connections值大于limit,则将max_connections 的值修正为limit
其他情况下 max_connections 保留配置值
修正table_cache_size
table_cache_size 会根据 request_open_files 来做修正1. // mysql table_cache_size 最小值,4002. limit1 = TABLE_OPEN_CACHE_MIN3. // 根据 requested_open_files 计算4. limit2 = (requested_open_files - 10 - max_connections) / 25. limit = max(limit1,limt2);
如果配置的table_cache_size 值大于limit,则将 table_cache_size 的值修正为limit
其他情况下table_cache_size 保留配置值
举例
以下用例在非 root 用户下运行
参数设置:
//mysql
max_connections = 500
table_open_cache = 999
//ulimit -n
1500
生效的值:
open_files_limit = 1500 max_connections = min[(1500 - 10 - 800),500] = 500
table_open_cache = ( 1500 - 10 - 500) / 2 =495
关于mysql怎么设置大文件和mysql大文件导入的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。






