К сожалению, дедупликация сама собой в Btrfs не происходит.

Для неё нужен пинок снаружи.

Для этого можно воспользоваться утилитой dupremove (https://github.com/markfasheh/duperemove):

#!/bin/sh
/usr/local/sbin/duperemove -dr /var /usr /home