Какая структура данных лежит в основе ResultSet в JDBC

ResultSet в JDBC использует курсорную модель, а не конкретную структуру данных. Он представляет собой итератор над результатами SQL-запроса, который может быть:

1. Построчным курсором - данные подгружаются по мере необходимости (при next())
2. Клиентским буфером - при использовании TYPE_SCROLL_INSENSITIVE
3. Серверным курсором - зависит от реализации драйвера БД

Пример работы:

Statement stmt = conn.createStatement();
ResultSet rs = stmt.executeQuery("SELECT * FROM users");
while (rs.next()) {
    String name = rs.getString("name");
    // обработка строки
}

ResultSet не хранит все данные в памяти сразу (если не указано иное), а подгружает их порциями из БД. Реальная структура зависит от драйвера - это может быть связанный список, массив или другая структура, оптимизированная под конкретную СУБД.