Linux сброс кэша памяти

Очищаем буфер и кеш в системе Linux

Прежде чем приступить к практике, сперва поговорим о буферизации и кэш памяти в операционных системах Linux. Очистка кешей и буферов в Linux снижает производительность системы и в основном полезно только для бенчмаркинга.

Свободная память — неиспользуемая память — это потраченная память впустую.

Очистка кеша и буфер в Linux

Если вы хотите очистить в системе кеш и буфер, то вы можете использовать эту цепочку команд:

Вы можете сигнализировать ядру Linux, чтобы удалить различные аспекты кешированных элементов, изменив числовой аргумент на указанную выше команду.

• Чтобы освободить pagecache:

• Чтобы освободить иноды:

• Чтобы освободить pagecache, dentries и inodes:

ПРИМЕЧАНИЕ. Вышеупомянутые команды должны выполняться от root пользователя.

Если вы пытаетесь сделать это с помощью sudo , вам нужно немного изменить синтаксис, примерно так:

Либо в таком формате:

Увидеть, что находится в буферах и кеше

Посмотрите linux-ftools , если вы хотите анализировать содержимое буферов и кэша в вашей системе. В частности, если вы хотите посмотреть, какие файлы в настоящее время кэшируются.

fincore

С помощью этого инструмента вы можете видеть, какие файлы кэшируются в директории give.

Очистка swap в Linux

первым делом смотрим сколько занимает наш swap места:

В данном случае swap занимает 26 Мб из 8 Гб

Очистим swap следующей командой:

Затем используйте команду, чтобы посмотреть освободился ли swap:

Из вывода видно что swap теперь занимает 0 Мб.

Очистка memcached в Linux

Есть несколько путей очистить кеша memcached.

Первый — это очистка с помощью подключения через telnet. Используем следующие команды:

• localhost — хост где находится memcached (можно указывать и IP-адрес хоста).
• 11211 — порт который использует memcached.

Чтобы узнать порт и IP-адрес в терминале где установлен memcached наберите следующее:

Второй — перезапустить сервис memcached:

Третий — установить утилиту memcflush для очистки кешей:

Теперь очищаем кеш memcached

Если есть вопросы, то пишем в комментариях.

Также можете вступить в Телеграм канал, ВК или подписаться на Twitter. Ссылки в шапки страницы.
Заранее всем спасибо.

Источник

Как полностью сбросить дисковые кэши?

Редактитую образ винча через loop (конкретнее, kpartx), потом (после umount и kpartx -d)

sync; echo 3 > /proc/sys/vm/drop_caches

При чтении — получаю старый файл, изменений нет. Текущий workaround — загадить всю оперативу (dd if=big_disk_file of=/dev/null bs=1024 count=4000000) занимает 40 сек, а хотелось бы быстро.

Debian Jessie (kernel 3.16.0-4-amd64), без systemd.

У тебя либо баг, либо ты о чём-то умалчиваешь.

обновить ядро и попробовать с ним воспроизвести — не вариант?

hdparm -F /dev/. ?
blockdev —flushbufs /dev/. ?

у меня почему-то ключом -F, когла на флэшки посылаю, ругается. -f не ругается.

Насколько я знаю, штатного способа сбросить вообще все кеши из юзерспейса не существует. Но это можно сделать тривиальным модулем ядра: https://github.com/i-rinat/utility-kernel-modules/tree/master/shrink-memory

Собираешь make’ом, загружаешь insmod’ом, а потом пишешь что-нибудь в /proc/shrink-memory.

anonymous , cetjs2 , это нормальное поведение ядра. vm.drop_caches=3 не сбрасывает вообще всё. В этом можно убедиться, помониторив вывод grep file /proc/meminfo во время vm.drop-caches=3.

Потому что у флэшки нет встроенного кэша?

разве нет? а -f то работает

Спасибо, как-то не задумывался.

А после «sync ; sync»?

Спасибо всем! Я не пропал..

Статистика маленькая и ненадёжная, и ещё я упростил описание. Но в целом — так. Ещё повторю тест скоро..

i-rinat , спасибо! Попозже попробую откомпилить (надо поставить исходники ядра..). А там действительно надо именно 13 раз вызывать shrink_all_memory((unsigned long)-1); ? 🙂

А там действительно надо именно 13 раз вызывать

На самом деле, я не знаю. Но помню, что в коде освобождения памяти есть такое понятие, как приоритет. Сначала он равен 12, что означает освобождать 1/4096 от списков. Потом по надобности он двигается к нулю, с каждым шагом увеличивая долю в два раза. Это в нормальном режиме. Как меняется приоритет при повторных вызовах shrink_all_memory(), я не проверял. Так, пальцем в небо. Поэтому там цикл.

Так это для кэша в оперативке.

как? а sync тогда что делает?

ого, это ты специально для этого треда модуль ядра написал? нереально крут.

Вы сильно упростили. Вы выдёргиваете флешку чтоли? Тогда сбросить кеш: eject /dev/sdX

Ну вот зачем так лор опускать. На каком-нибудь прости господи античате это обычное дело, не говоря про стековерфлоу.

не знаю, к сожалению или нет, но лор — не античат и уж тем более не стековерфлоу. каждый день тут для анонимуса модули ядра точно не пишут. тут чаще пятизвёздочники такие вопросы задают, что со стула падаешь.

Ох.. Юзер-хомяк я, локахост админю..

Поставил исходники. Там куда я их разжал: подложил (разжатый) /usr/src/linux-config-3.16/config.amd64_none_amd64.xz, убедился что make oldconfig (old — подхватить подложенный .config), make modules начинает компилять.. Ещё раз сделал (после mrproper) oldconfig, prepare, и теперь уже из директории shrink_mem:

vodz Флэшка не вынималась на время записи-чтения (пока не совпадут чек-суммы — со второго раза), ни при чём это. Если eject — из Гнома — я Redhat’s bloatware свободным не считаю

А ещё, i-rinat , а полученный модуль — можно будет загружать в обновлённом штатном ядре (ну когда через месяц скажем будет апдэйт)? Или каждый раз компилять надо?

Что-то сложно делаешь. Можно проще: поставить пакет linux-headers-3.16.0-4-amd64, в нём уже есть нужные заголовки и симлинки.

можно будет загружать в обновлённом штатном ядре

Нет, для новой версии ядра модули нужно пересобирать. Старые бинарники скорее всего не загрузятся, там для этого специально вставлены проверки. Для серьёзных модулей пересборку автоматизируют с помощью DKMS. Это такой набор скриптов, который запускает пересборку сторонних модулей сразу после обновления пакета с ядром.

Redhat’s bloatware свободным не считаю

Источник

Как освободить память Linux

Как и любая другая операционная система, Linux очень эффективно работает с оперативной памятью. Доступная память свободно распространяется между процессами, неиспользуемые страницы сбрасываются в раздел подкачки на диске, а в случае переполнения памяти, срабатывает специальный механизм, встроенный в ядро, который анализирует все процессы и уничтожает виновника.

Когда любой процесс пишет данные на диск, они сохраняются ядром в отдельном кэше. Очень часто этот кэш занимает достаточно много места. В этой статье мы рассмотрим как освободить память в Linux, а точнее, как очистить созданный программами кэш, а также как вычислить и завершить процессы, которые потребляют больше всего памяти.

Как освободить кэш память в Linux

В каждом дистрибутиве Linux можно использовать три команды чтобы очистить кэш памяти linux. Причем вам не придется завершать никаких процессов. Сначала войдите в консоль от имени суперпользователя:

Затем выполните одну из команд. Очистка кэша PageCache:

sync; echo 1 > /proc/sys/vm/drop_caches

Очистка inode и dentrie:

sync; echo 2 > /proc/sys/vm/drop_caches

Очистка inode и dentrie и PageCache:

sync; echo 3 > /proc/sys/vm/drop_caches

А теперь давайте рассмотрим что происходит при выполнении этих команд.

Утилита sync заставляет систему записать все кэшированные, но еще не записанные данные на диск. Это нужно чтобы освободить как можно больше памяти. По умолчанию данные после записи на диск не удаляются из кэша, это нужно для того, чтобы программа могла быстрее их считать при необходимости.

Если не выполнить команду sync мы тоже освободим немного места, но после ее выполнения результат будет лучше.

Символ разделения ; дает знать оболочке, что перед тем как выполнить другую команду, нужно дождаться завершения работы первой. Последняя команда echo 1 > /proc/sys/vm/drop_caches записывает значение 1 в файл /proc/sys/vm/drop_caches. Это дает сигнал ядру, что нужно очистить выбранный нами вид кэша.

Виды кэша в Linux

А теперь давайте рассмотрим виды кэша, которые позволяют очищать эти команды, а также как все это работает.

PageCache или страничный кэш — это место, куда ядро складывает все данные, которые вы записывали или читали из диска. Это очень сильно ускоряет работу системы, так как если программе во второй раз понадобятся те же данные, они просто будут взяты из оперативной памяти. Но по этой причине этот кэш занимает больше всего места.

Посмотреть размер страничного кэша можно с помощью утилиты free. Здесь он показан в последней колонке — cached:

Такой кэш чистить эффективнее и безопаснее всего.

Кэш inode и dentrie тоже относится к файловой системе. Только в него записываются не сами данные, а структура файловой системы, расположение файлов и папок. При запросе расположения файла или содержимого папки ядро формирует специальные структуры, в которых есть вся эта информация. При следующем запросе структуры будут уже сохранены в памяти. Для каждой файловой системы существует свой кэш inode и общий кэш dentrie.

Этот кэш занимает очень мало памяти. Данные представлены в байтах, и как видите, это очень мало. Посмотреть его можно командой:

cat /proc/slabinfo | egrep dentry\|inode

Очищать его чтобы освободить память linux не рекомендуется, так как памяти потребляется немного, а на новое сканирование файловой системы идет относительно много времени.

Нужно ли очищать кэш вообще?

Во-первых, если занято очень много памяти, вы можете очистить страничный кэш, особенно если это он занимает много памяти. Во-вторых, очистить кэш памяти linux может понадобиться, если вы изменяли какие-либо настройки файловой системы или ядра, а теперь хотите проверить как это отразилось на скорости операций чтения/записи. В таком случае можно очистить все кэши и сделать это без перезагрузки, что очень удобно.

Операционная система Linux разработана таким образом, что перед тем как обратиться к диску, будет просмотрен кэш диска, и если там есть нужные данные, к диску обращений не будет. Если очистить кэш Linux то операционная система будет работать немного медленнее, поскольку ей придется искать данные на диске.

Автоматическая очистка кэша

Давайте рассмотрим как автоматически очистить кэш памяти ежедневно в два часа ночи с помощью планировщика заданий cron.

Сначала создадим bash скрипт со следующим содержимым:

sudo vi /usr/local/bin/clearcache.sh

!/bin/bash
sync ; echo 1 > /proc/sys/vm/drop_caches

Очищать будем только страничный кэш, так как он занимает больше всего. Другие виды трогать не будем, чтобы зря не понижать производительность системы.

Дальше сделайте скрипт исполняемым:

sudo chmod 755 /usr/local/bin/clearcache.sh

Осталось добавить задание в планировщик cron. Для этого выполните команду:

И в открывшемся редакторе добавьте строчку:

0 2 * * * /usr/local/bin/clearcache.sh

Теперь этот скрипт будет выполняться каждую ночь и выполнять очистку памяти, чтобы сервер мог работать нормально.

Настройка размера кэша памяти

Куда удобнее не очищать кэш каждый раз, а настроить ограничение, при превышении которого система сама будет удалять лишние страницы. Вы не можете явно ограничить сколько мегабайт может система использовать под кэш. Будет использоваться вся доступная память по мере необходимости, но можно настроить скорость удаления просроченных страниц из кэша.

За это отвечает файл /proc/sys/vm/vfs_cache_pressure. Он содержит относительный показатель, насколько агрессивно нужно удалять страницы из кэша. По умолчанию установлен параметр 100. Если его уменьшить ядро будет реже удалять страницы и это приведет к очень быстрому увеличению кэша. При нуле страницы вообще не будут удаляться. Если значение больше 100, размер кэша будет увеличиваться медленнее и неиспользуемые страницы будут сразу удаляться.

Например, сделаем минимальный размер кэша:

echo 1000 > /proc/sys/vm/vfs_cache_pressure

Не забудьте, что это очень сильно снизит производительность вашей системы, потому что вместо кэша данные будут читаться из диска.

Как очистить память подкачки

Пространство подкачки очистить очень просто. Для этого выполните:

swapoff -a && swapon -a

Имейте в виду, что при очистке swap, все данные будут перенесены обратно в оперативную память.

Как освободить память занимаемую процессами

Если в вашей системе нет памяти и кэш здесь ни при чём, следует завершить несколько процессов, потребляющих больше всего памяти. Для этого сначала надо вычислить такие процессы. Чтобы это сделать можно воспользоваться утилитой ps:

ps -e -o pid,user,%mem,command —sort %mem

Как видите, больше всего здесь памяти занимает chromium. Теперь вам надо его завершить. Идентификатор процесса, по которому его можно завершить отображается в первой колонке. Поэтому:

Более подробно о том как завершить процесс читайте в этой статье. Таким образом, вы можете освободить память от процессов, которые занимают больше всего памяти, а потом уже настроить zram или swap для того, чтобы память не переполнялась.

Выводы

Вот и все. Вы уже знаете очистить кэш linux и освободить память. Не забудьте, что все команды, приведенные в этой статье нужно выполнять от имени суперпользователя, иначе ничего работать не будет. Если остались вопросы, спрашивайте в комментариях!

Источник