LRU的设计与实现

1.什么是LRU

最近最少使用算法(LRU)是大部分操作系统为最大化页面命中率而广泛采用的一种页面置换算法。

工作原理:

例如如下的次序: 7 0 1 2 0 3 0 4

那么页面中的元素是:

image-20231127222238820

2.原理

目前公认最好用的实现方法: 哈希表+双向链表

这样做的原因有很多条,其中最重要的一点是: 利用时间换取空间的思想——将双向链表的访问的缺陷用查询最快的O(1)哈希表结合

  • 双向链表用来实现队列的FIFO: 双向链表用来实现根据访问情况对元素进行排序。双向链表按照被使用的顺序存储了这些键值对,靠近头部的键值对是最近使用的,而靠近尾部的键值对是最久未使用的。

  • Hash的作用是 用来做到O(1)访问元素,哈希表就是普通的哈希映射(HashMap),通过缓存数据的键映射到其在双向链表中的位置。

同时为了方便操作,在双向链表的实现中,使用一个伪头部(dummy head)和伪尾部(dummy tail)标记界限,这样在添加节点和删除节点的时候就不需要检查相邻的节点是否存在。

如图下操作:

我们先看容量为3的例子,首先缓存了1,此时结构如图a所示。之后再缓存2和3,结构如b所示。

image

之后 4再进入, 此时容量已经不够了,只能将最远未使用的元素1删掉, 然后将4插入到链表头部。此时就变成了上图c的样子。

接下来假如又访问了一次2,会怎么样呢?此时会将2移动到链表的首部,也就是下图d的样子。

image2

之后假如又要缓存5呢?此时就将tail指向的3删除,然后将5插入到链表头部。也就是上图e的样子。

3.实现:

LeetCode146:运用你所掌握的数据结构,设计和实现一个LRU (最近最少使用) 缓存机制 。

实现 LRUCache 类:
LRUCache(int capacity) 以 正整数 作为容量 capacity 初始化 LRU 缓存
int get(int key) 如果关键字 key 存在于缓存中,则返回关键字的值,否则返回 -1 。
void put(int key, int value) 如果关键字 key 已经存在,则变更其数据值 value ;如果不存在,则向缓存中插入该组 key-value 。如果插入操作导致关键字数量超过 capacity ,则应该 逐出 最久未使用的关键字。
函数 get 和 put 必须以 O(1) 的平均时间复杂度运行。

 

示例:

输入
["LRUCache", "put", "put", "get", "put", "get", "put", "get", "get", "get"]
[[2], [1, 1], [2, 2], [1], [3, 3], [2], [4, 4], [1], [3], [4]]
输出
[null, null, null, 1, null, -1, null, -1, 3, 4]

解释
LRUCache lRUCache = new LRUCache(2);
lRUCache.put(1, 1); // 缓存是 {1=1}
lRUCache.put(2, 2); // 缓存是 {1=1, 2=2}
lRUCache.get(1);    // 返回 1
lRUCache.put(3, 3); // 该操作会使得关键字 2 作废,缓存是 {1=1, 3=3}
lRUCache.get(2);    // 返回 -1 (未找到)
lRUCache.put(4, 4); // 该操作会使得关键字 1 作废,缓存是 {4=4, 3=3}
lRUCache.get(1);    // 返回 -1 (未找到)
lRUCache.get(3);    // 返回 3
lRUCache.get(4);    // 返回 4
 

提示:

1 <= capacity <= 3000
0 <= key <= 10000
0 <= value <= 105
最多调用 2 * 105 次 get 和 put

首先根据上面的思路需要明白put与get两个方法的思路

  • void put : 分为已存在和未存在

    不存在的时候可以直接添加到头部,并在哈希表中添加

    如果 key 存在,先通过哈希表定位,再修改 value,并移到头部

  • int get : 只需要取出末尾元素即可

在这两中方法中涉及四种操作:

  • 将元素添加到头结点: addToHead()
  • 移除尾结点: removeTail()
  • 将节点移动到头结点: moveToHead()
  • 移除节点: removeNode()

首先看四种方法的实现

   private void addToHead(Dlink node) {
        node.next = head.next;
        node.prev = head;
        head.next.prev = node; //这一步记得不能往后放,因为放后面会导致 head.next.prev指向自己
        head.next = node;

    }

    //移除某个节点
    private void removeNode(Dlink node) {
        node.prev.next = node.next;
        node.next.prev = node.prev;
    }

    //将某节点放在头结点
    private void moveToHead(Dlink node) {
        removeNode(node);
        addToHead(node);
    }

    //将尾结点元素删除
    private Dlink removeTail() {
        Dlink tailNode = tail.prev;
        removeNode(tailNode);
        return tailNode;
    }

整体代码实现;

class LRUCache {
class Dlink {
        int key;
        int value;
        Dlink prev;
        Dlink next;

        public Dlink() {
        }

        public Dlink(int key, int value) {
            this.key = key;
            this.value = value;
        }
    }

    //LRUCache
    private Map<Integer, Dlink> cache = new HashMap<>();
    private int capacity;
    private int size;
    private Dlink head, tail;
    public LRUCache(int capacity) {
        size = 0;
        this.capacity = capacity;
        head = new Dlink();
        tail = new Dlink();
        head.next = tail;
        tail.prev = head;
    }
    
    public int get(int key) {
  
        Dlink node = cache.get(key);
        if (node == null) {
            return -1;
        }
        moveToHead(node);
        return node.value;
    
    }
    
    public void put(int key, int value) {
        Dlink node = cache.get(key);
        if (node == null) {
            Dlink newNode = new Dlink(key, value);
            //添加进hash表
            cache.put(key, newNode);
            addToHead(newNode);
            size++;
            if (size > capacity) {
                Dlink removeNode = removeTail();
                //删除hash表中的数据
                cache.remove(removeNode.key);
                size--;
            }

        } else {
            //如果 key 存在,先通过哈希表定位,再修改 value,并移到头部
          node.value = value;
            moveToHead(node);
        }
    
    }
  //移动到头结点
    private void addToHead(Dlink node) {
        node.next = head.next;
        node.prev = head;
        head.next.prev = node;
        head.next = node;
        
    }

    //移除某个节点
    private void removeNode(Dlink node) {
        node.prev.next = node.next;
        node.next.prev = node.prev;
    }

    //将某节点放在头结点
    private void moveToHead(Dlink node) {
        removeNode(node);
        addToHead(node);
    }

    //将尾结点元素删除
    private Dlink removeTail() {
        Dlink tailNode = tail.prev;
        removeNode(tailNode);
        return tailNode;
    }

}

/**
 * Your LRUCache object will be instantiated and called as such:
 * LRUCache obj = new LRUCache(capacity);
 * int param_1 = obj.get(key);
 * obj.put(key,value);
 */

写一个测试类

public static void main(String[] args) {
    LRUCache lRUCache = new LRUCache(2);
    lRUCache.put(1, 1); // 缓存是 {1=1}
    lRUCache.put(2, 2); // 缓存是 {1=1, 2=2}
    System.out.println(lRUCache.get(1));    // 返回 1
    lRUCache.put(3, 3); // 该操作会使得关键字 2 作废,缓存是 {1=1, 3=3}
    System.out.println(lRUCache.get(2));    // 返回 -1 (未找到)
    lRUCache.put(4, 4); // 该操作会使得关键字 1 作废,缓存是 {4=4, 3=3}
    System.out.println(lRUCache.get(1));    // 返回 -1 (未找到)
    System.out.println(lRUCache.get(3));    // 返回 3
    System.out.println(lRUCache.get(4));    // 返回 4
}