drivers/hv/hv_balloon.c

   1 /*
   2  * Copyright (c) 2012, Microsoft Corporation.
   3  *
   4  * Author:
   5  *   K. Y. Srinivasan <kys@microsoft.com>
   6  *
   7  * This program is free software; you can redistribute it and/or modify it
   8  * under the terms of the GNU General Public License version 2 as published
   9  * by the Free Software Foundation.
  10  *
  11  * This program is distributed in the hope that it will be useful, but
  12  * WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY OR FITNESS FOR A PARTICULAR PURPOSE, GOOD TITLE or
  14  * NON INFRINGEMENT.  See the GNU General Public License for more
  15  * details.
  16  *
  17  */
  18
  19 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
  20
  21 #include <linux/kernel.h>
  22 #include <linux/mman.h>
  23 #include <linux/delay.h>
  24 #include <linux/init.h>
  25 #include <linux/module.h>
  26 #include <linux/slab.h>
  27 #include <linux/kthread.h>
  28 #include <linux/completion.h>
  29 #include <linux/memory_hotplug.h>
  30 #include <linux/memory.h>
  31 #include <linux/notifier.h>
  32 #include <linux/percpu_counter.h>
  33
  34 #include <linux/hyperv.h>
  35
  36 /*
  37  * We begin with definitions supporting the Dynamic Memory protocol
  38  * with the host.
  39  *
  40  * Begin protocol definitions.
  41  */
  42
  43
  44
  45 /*
  46  * Protocol versions. The low word is the minor version, the high word the major
  47  * version.
  48  *
  49  * History:
  50  * Initial version 1.0
  51  * Changed to 0.1 on 2009/03/25
  52  * Changes to 0.2 on 2009/05/14
  53  * Changes to 0.3 on 2009/12/03
  54  * Changed to 1.0 on 2011/04/05
  55  */
  56
  57 #define DYNMEM_MAKE_VERSION(Major, Minor) ((__u32)(((Major) << 16) | (Minor)))
  58 #define DYNMEM_MAJOR_VERSION(Version) ((__u32)(Version) >> 16)
  59 #define DYNMEM_MINOR_VERSION(Version) ((__u32)(Version) & 0xff)
  60
  61 enum {
  62         DYNMEM_PROTOCOL_VERSION_1 = DYNMEM_MAKE_VERSION(0, 3),
  63         DYNMEM_PROTOCOL_VERSION_2 = DYNMEM_MAKE_VERSION(1, 0),
  64
  65         DYNMEM_PROTOCOL_VERSION_WIN7 = DYNMEM_PROTOCOL_VERSION_1,
  66         DYNMEM_PROTOCOL_VERSION_WIN8 = DYNMEM_PROTOCOL_VERSION_2,
  67
  68         DYNMEM_PROTOCOL_VERSION_CURRENT = DYNMEM_PROTOCOL_VERSION_WIN8
  69 };
  70
  71
  72
  73 /*
  74  * Message Types
  75  */
  76
  77 enum dm_message_type {
  78         /*
  79          * Version 0.3
  80          */
  81         DM_ERROR                        = 0,
  82         DM_VERSION_REQUEST              = 1,
  83         DM_VERSION_RESPONSE             = 2,
  84         DM_CAPABILITIES_REPORT          = 3,
  85         DM_CAPABILITIES_RESPONSE        = 4,
  86         DM_STATUS_REPORT                = 5,
  87         DM_BALLOON_REQUEST              = 6,
  88         DM_BALLOON_RESPONSE             = 7,
  89         DM_UNBALLOON_REQUEST            = 8,
  90         DM_UNBALLOON_RESPONSE           = 9,
  91         DM_MEM_HOT_ADD_REQUEST          = 10,
  92         DM_MEM_HOT_ADD_RESPONSE         = 11,
  93         DM_VERSION_03_MAX               = 11,
  94         /*
  95          * Version 1.0.
  96          */
  97         DM_INFO_MESSAGE                 = 12,
  98         DM_VERSION_1_MAX                = 12
  99 };
 100
 101
 102 /*
 103  * Structures defining the dynamic memory management
 104  * protocol.
 105  */
 106
 107 union dm_version {
 108         struct {
 109                 __u16 minor_version;
 110                 __u16 major_version;
 111         };
 112         __u32 version;
 113 } __packed;
 114
 115
 116 union dm_caps {
 117         struct {
 118                 __u64 balloon:1;
 119                 __u64 hot_add:1;
 120                 __u64 reservedz:62;
 121         } cap_bits;
 122         __u64 caps;
 123 } __packed;
 124
 125 union dm_mem_page_range {
 126         struct  {
 127                 /*
 128                  * The PFN number of the first page in the range.
 129                  * 40 bits is the architectural limit of a PFN
 130                  * number for AMD64.
 131                  */
 132                 __u64 start_page:40;
 133                 /*
 134                  * The number of pages in the range.
 135                  */
 136                 __u64 page_cnt:24;
 137         } finfo;
 138         __u64  page_range;
 139 } __packed;
 140
 141
 142
 143 /*
 144  * The header for all dynamic memory messages:
 145  *
 146  * type: Type of the message.
 147  * size: Size of the message in bytes; including the header.
 148  * trans_id: The guest is responsible for manufacturing this ID.
 149  */
 150
 151 struct dm_header {
 152         __u16 type;
 153         __u16 size;
 154         __u32 trans_id;
 155 } __packed;
 156
 157 /*
 158  * A generic message format for dynamic memory.
 159  * Specific message formats are defined later in the file.
 160  */
 161
 162 struct dm_message {
 163         struct dm_header hdr;
 164         __u8 data[]; /* enclosed message */
 165 } __packed;
 166
 167
 168 /*
 169  * Specific message types supporting the dynamic memory protocol.
 170  */
 171
 172 /*
 173  * Version negotiation message. Sent from the guest to the host.
 174  * The guest is free to try different versions until the host
 175  * accepts the version.
 176  *
 177  * dm_version: The protocol version requested.
 178  * is_last_attempt: If TRUE, this is the last version guest will request.
 179  * reservedz: Reserved field, set to zero.
 180  */
 181
 182 struct dm_version_request {
 183         struct dm_header hdr;
 184         union dm_version version;
 185         __u32 is_last_attempt:1;
 186         __u32 reservedz:31;
 187 } __packed;
 188
 189 /*
 190  * Version response message; Host to Guest and indicates
 191  * if the host has accepted the version sent by the guest.
 192  *
 193  * is_accepted: If TRUE, host has accepted the version and the guest
 194  * should proceed to the next stage of the protocol. FALSE indicates that
 195  * guest should re-try with a different version.
 196  *
 197  * reservedz: Reserved field, set to zero.
 198  */
 199
 200 struct dm_version_response {
 201         struct dm_header hdr;
 202         __u64 is_accepted:1;
 203         __u64 reservedz:63;
 204 } __packed;
 205
 206 /*
 207  * Message reporting capabilities. This is sent from the guest to the
 208  * host.
 209  */
 210
 211 struct dm_capabilities {
 212         struct dm_header hdr;
 213         union dm_caps caps;
 214         __u64 min_page_cnt;
 215         __u64 max_page_number;
 216 } __packed;
 217
 218 /*
 219  * Response to the capabilities message. This is sent from the host to the
 220  * guest. This message notifies if the host has accepted the guest's
 221  * capabilities. If the host has not accepted, the guest must shutdown
 222  * the service.
 223  *
 224  * is_accepted: Indicates if the host has accepted guest's capabilities.
 225  * reservedz: Must be 0.
 226  */
 227
 228 struct dm_capabilities_resp_msg {
 229         struct dm_header hdr;
 230         __u64 is_accepted:1;
 231         __u64 reservedz:63;
 232 } __packed;
 233
 234 /*
 235  * This message is used to report memory pressure from the guest.
 236  * This message is not part of any transaction and there is no
 237  * response to this message.
 238  *
 239  * num_avail: Available memory in pages.
 240  * num_committed: Committed memory in pages.
 241  * page_file_size: The accumulated size of all page files
 242  *                 in the system in pages.
 243  * zero_free: The nunber of zero and free pages.
 244  * page_file_writes: The writes to the page file in pages.
 245  * io_diff: An indicator of file cache efficiency or page file activity,
 246  *          calculated as File Cache Page Fault Count - Page Read Count.
 247  *          This value is in pages.
 248  *
 249  * Some of these metrics are Windows specific and fortunately
 250  * the algorithm on the host side that computes the guest memory
 251  * pressure only uses num_committed value.
 252  */
 253
 254 struct dm_status {
 255         struct dm_header hdr;
 256         __u64 num_avail;
 257         __u64 num_committed;
 258         __u64 page_file_size;
 259         __u64 zero_free;
 260         __u32 page_file_writes;
 261         __u32 io_diff;
 262 } __packed;
 263
 264
 265 /*
 266  * Message to ask the guest to allocate memory - balloon up message.
 267  * This message is sent from the host to the guest. The guest may not be
 268  * able to allocate as much memory as requested.
 269  *
 270  * num_pages: number of pages to allocate.
 271  */
 272
 273 struct dm_balloon {
 274         struct dm_header hdr;
 275         __u32 num_pages;
 276         __u32 reservedz;
 277 } __packed;
 278
 279
 280 /*
 281  * Balloon response message; this message is sent from the guest
 282  * to the host in response to the balloon message.
 283  *
 284  * reservedz: Reserved; must be set to zero.
 285  * more_pages: If FALSE, this is the last message of the transaction.
 286  * if TRUE there will atleast one more message from the guest.
 287  *
 288  * range_count: The number of ranges in the range array.
 289  *
 290  * range_array: An array of page ranges returned to the host.
 291  *
 292  */
 293
 294 struct dm_balloon_response {
 295         struct dm_header hdr;
 296         __u32 reservedz;
 297         __u32 more_pages:1;
 298         __u32 range_count:31;
 299         union dm_mem_page_range range_array[];
 300 } __packed;
 301
 302 /*
 303  * Un-balloon message; this message is sent from the host
 304  * to the guest to give guest more memory.
 305  *
 306  * more_pages: If FALSE, this is the last message of the transaction.
 307  * if TRUE there will atleast one more message from the guest.
 308  *
 309  * reservedz: Reserved; must be set to zero.
 310  *
 311  * range_count: The number of ranges in the range array.
 312  *
 313  * range_array: An array of page ranges returned to the host.
 314  *
 315  */
 316
 317 struct dm_unballoon_request {
 318         struct dm_header hdr;
 319         __u32 more_pages:1;
 320         __u32 reservedz:31;
 321         __u32 range_count;
 322         union dm_mem_page_range range_array[];
 323 } __packed;
 324
 325 /*
 326  * Un-balloon response message; this message is sent from the guest
 327  * to the host in response to an unballoon request.
 328  *
 329  */
 330
 331 struct dm_unballoon_response {
 332         struct dm_header hdr;
 333 } __packed;
 334
 335
 336 /*
 337  * Hot add request message. Message sent from the host to the guest.
 338  *
 339  * mem_range: Memory range to hot add.
 340  *
 341  * On Linux we currently don't support this since we cannot hot add
 342  * arbitrary granularity of memory.
 343  */
 344
 345 struct dm_hot_add {
 346         struct dm_header hdr;
 347         union dm_mem_page_range range;
 348 } __packed;
 349
 350 /*
 351  * Hot add response message.
 352  * This message is sent by the guest to report the status of a hot add request.
 353  * If page_count is less than the requested page count, then the host should
 354  * assume all further hot add requests will fail, since this indicates that
 355  * the guest has hit an upper physical memory barrier.
 356  *
 357  * Hot adds may also fail due to low resources; in this case, the guest must
 358  * not complete this message until the hot add can succeed, and the host must
 359  * not send a new hot add request until the response is sent.
 360  * If VSC fails to hot add memory DYNMEM_NUMBER_OF_UNSUCCESSFUL_HOTADD_ATTEMPTS
 361  * times it fails the request.
 362  *
 363  *
 364  * page_count: number of pages that were successfully hot added.
 365  *
 366  * result: result of the operation 1: success, 0: failure.
 367  *
 368  */
 369
 370 struct dm_hot_add_response {
 371         struct dm_header hdr;
 372         __u32 page_count;
 373         __u32 result;
 374 } __packed;
 375
 376 /*
 377  * Types of information sent from host to the guest.
 378  */
 379
 380 enum dm_info_type {
 381         INFO_TYPE_MAX_PAGE_CNT = 0,
 382         MAX_INFO_TYPE
 383 };
 384
 385
 386 /*
 387  * Header for the information message.
 388  */
 389
 390 struct dm_info_header {
 391         enum dm_info_type type;
 392         __u32 data_size;
 393 } __packed;
 394
 395 /*
 396  * This message is sent from the host to the guest to pass
 397  * some relevant information (win8 addition).
 398  *
 399  * reserved: no used.
 400  * info_size: size of the information blob.
 401  * info: information blob.
 402  */
 403
 404 struct dm_info_msg {
 405         struct dm_header hdr;
 406         __u32 reserved;
 407         __u32 info_size;
 408         __u8  info[];
 409 };
 410
 411 /*
 412  * End protocol definitions.
 413  */
 414
 415 static bool hot_add;
 416 static bool do_hot_add;
 417
 418 module_param(hot_add, bool, (S_IRUGO | S_IWUSR));
 419 MODULE_PARM_DESC(hot_add, "If set attempt memory hot_add");
 420
 421 static atomic_t trans_id = ATOMIC_INIT(0);
 422
 423 static int dm_ring_size = (5 * PAGE_SIZE);
 424
 425 /*
 426  * Driver specific state.
 427  */
 428
 429 enum hv_dm_state {
 430         DM_INITIALIZING = 0,
 431         DM_INITIALIZED,
 432         DM_BALLOON_UP,
 433         DM_BALLOON_DOWN,
 434         DM_HOT_ADD,
 435         DM_INIT_ERROR
 436 };
 437
 438
 439 static __u8 recv_buffer[PAGE_SIZE];
 440 static __u8 *send_buffer;
 441 #define PAGES_IN_2M     512
 442
 443 struct hv_dynmem_device {
 444         struct hv_device *dev;
 445         enum hv_dm_state state;
 446         struct completion host_event;
 447         struct completion config_event;
 448
 449         /*
 450          * Number of pages we have currently ballooned out.
 451          */
 452         unsigned int num_pages_ballooned;
 453
 454         /*
 455          * This thread handles both balloon/hot-add
 456          * requests from the host as well as notifying
 457          * the host with regards to memory pressure in
 458          * the guest.
 459          */
 460         struct task_struct *thread;
 461
 462         /*
 463          * We start with the highest version we can support
 464          * and downgrade based on the host; we save here the
 465          * next version to try.
 466          */
 467         __u32 next_version;
 468 };
 469
 470 static struct hv_dynmem_device dm_device;
 471
 472 static void hot_add_req(struct hv_dynmem_device *dm, struct dm_hot_add *msg)
 473 {
 474
 475         struct dm_hot_add_response resp;
 476
 477         if (do_hot_add) {
 478
 479                 pr_info("Memory hot add not supported\n");
 480
 481                 /*
 482                  * Currently we do not support hot add.
 483                  * Just fail the request.
 484                  */
 485         }
 486
 487         memset(&resp, 0, sizeof(struct dm_hot_add_response));
 488         resp.hdr.type = DM_MEM_HOT_ADD_RESPONSE;
 489         resp.hdr.size = sizeof(struct dm_hot_add_response);
 490         resp.hdr.trans_id = atomic_inc_return(&trans_id);
 491
 492         resp.page_count = 0;
 493         resp.result = 0;
 494
 495         dm->state = DM_INITIALIZED;
 496         vmbus_sendpacket(dm->dev->channel, &resp,
 497                         sizeof(struct dm_hot_add_response),
 498                         (unsigned long)NULL,
 499                         VM_PKT_DATA_INBAND, 0);
 500
 501 }
 502
 503 static void process_info(struct hv_dynmem_device *dm, struct dm_info_msg *msg)
 504 {
 505         struct dm_info_header *info_hdr;
 506
 507         info_hdr = (struct dm_info_header *)msg->info;
 508
 509         switch (info_hdr->type) {
 510         case INFO_TYPE_MAX_PAGE_CNT:
 511                 pr_info("Received INFO_TYPE_MAX_PAGE_CNT\n");
 512                 pr_info("Data Size is %d\n", info_hdr->data_size);
 513                 break;
 514         default:
 515                 pr_info("Received Unknown type: %d\n", info_hdr->type);
 516         }
 517 }
 518
 519 /*
 520  * Post our status as it relates memory pressure to the
 521  * host. Host expects the guests to post this status
 522  * periodically at 1 second intervals.
 523  *
 524  * The metrics specified in this protocol are very Windows
 525  * specific and so we cook up numbers here to convey our memory
 526  * pressure.
 527  */
 528
 529 static void post_status(struct hv_dynmem_device *dm)
 530 {
 531         struct dm_status status;
 532
 533
 534         memset(&status, 0, sizeof(struct dm_status));
 535         status.hdr.type = DM_STATUS_REPORT;
 536         status.hdr.size = sizeof(struct dm_status);
 537         status.hdr.trans_id = atomic_inc_return(&trans_id);
 538
 539
 540         status.num_committed = vm_memory_committed();
 541
 542         vmbus_sendpacket(dm->dev->channel, &status,
 543                                 sizeof(struct dm_status),
 544                                 (unsigned long)NULL,
 545                                 VM_PKT_DATA_INBAND, 0);
 546
 547 }
 548
 549
 550
 551 static void free_balloon_pages(struct hv_dynmem_device *dm,
 552                          union dm_mem_page_range *range_array)
 553 {
 554         int num_pages = range_array->finfo.page_cnt;
 555         __u64 start_frame = range_array->finfo.start_page;
 556         struct page *pg;
 557         int i;
 558
 559         for (i = 0; i < num_pages; i++) {
 560                 pg = pfn_to_page(i + start_frame);
 561                 __free_page(pg);
 562                 dm->num_pages_ballooned--;
 563         }
 564 }
 565
 566
 567
 568 static int  alloc_balloon_pages(struct hv_dynmem_device *dm, int num_pages,
 569                          struct dm_balloon_response *bl_resp, int alloc_unit,
 570                          bool *alloc_error)
 571 {
 572         int i = 0;
 573         struct page *pg;
 574
 575         if (num_pages < alloc_unit)
 576                 return 0;
 577
 578         for (i = 0; (i * alloc_unit) < num_pages; i++) {
 579                 if (bl_resp->hdr.size + sizeof(union dm_mem_page_range) >
 580                         PAGE_SIZE)
 581                         return i * alloc_unit;
 582
 583                 /*
 584                  * We execute this code in a thread context. Furthermore,
 585                  * we don't want the kernel to try too hard.
 586                  */
 587                 pg = alloc_pages(GFP_HIGHUSER | __GFP_NORETRY |
 588                                 __GFP_NOMEMALLOC | __GFP_NOWARN,
 589                                 get_order(alloc_unit << PAGE_SHIFT));
 590
 591                 if (!pg) {
 592                         *alloc_error = true;
 593                         return i * alloc_unit;
 594                 }
 595
 596
 597                 dm->num_pages_ballooned += alloc_unit;
 598
 599                 bl_resp->range_count++;
 600                 bl_resp->range_array[i].finfo.start_page =
 601                         page_to_pfn(pg);
 602                 bl_resp->range_array[i].finfo.page_cnt = alloc_unit;
 603                 bl_resp->hdr.size += sizeof(union dm_mem_page_range);
 604
 605         }
 606
 607         return num_pages;
 608 }
 609
 610
 611
 612 static void balloon_up(struct hv_dynmem_device *dm, struct dm_balloon *req)
 613 {
 614         int num_pages = req->num_pages;
 615         int num_ballooned = 0;
 616         struct dm_balloon_response *bl_resp;
 617         int alloc_unit;
 618         int ret;
 619         bool alloc_error = false;
 620         bool done = false;
 621         int i;
 622
 623
 624         /*
 625          * Currently, we only support 4k allocations.
 626          */
 627         alloc_unit = 1;
 628
 629         while (!done) {
 630                 bl_resp = (struct dm_balloon_response *)send_buffer;
 631                 memset(send_buffer, 0, PAGE_SIZE);
 632                 bl_resp->hdr.type = DM_BALLOON_RESPONSE;
 633                 bl_resp->hdr.trans_id = atomic_inc_return(&trans_id);
 634                 bl_resp->hdr.size = sizeof(struct dm_balloon_response);
 635                 bl_resp->more_pages = 1;
 636
 637
 638                 num_pages -= num_ballooned;
 639                 num_ballooned = alloc_balloon_pages(dm, num_pages,
 640                                                 bl_resp, alloc_unit,
 641                                                  &alloc_error);
 642
 643                 if ((alloc_error) || (num_ballooned == num_pages)) {
 644                         bl_resp->more_pages = 0;
 645                         done = true;
 646                         dm->state = DM_INITIALIZED;
 647                 }
 648
 649                 /*
 650                  * We are pushing a lot of data through the channel;
 651                  * deal with transient failures caused because of the
 652                  * lack of space in the ring buffer.
 653                  */
 654
 655                 do {
 656                         ret = vmbus_sendpacket(dm_device.dev->channel,
 657                                                 bl_resp,
 658                                                 bl_resp->hdr.size,
 659                                                 (unsigned long)NULL,
 660                                                 VM_PKT_DATA_INBAND, 0);
 661
 662                         if (ret == -EAGAIN)
 663                                 msleep(20);
 664
 665                 } while (ret == -EAGAIN);
 666
 667                 if (ret) {
 668                         /*
 669                          * Free up the memory we allocatted.
 670                          */
 671                         pr_info("Balloon response failed\n");
 672
 673                         for (i = 0; i < bl_resp->range_count; i++)
 674                                 free_balloon_pages(dm,
 675                                                  &bl_resp->range_array[i]);
 676
 677                         done = true;
 678                 }
 679         }
 680
 681 }
 682
 683 static void balloon_down(struct hv_dynmem_device *dm,
 684                         struct dm_unballoon_request *req)
 685 {
 686         union dm_mem_page_range *range_array = req->range_array;
 687         int range_count = req->range_count;
 688         struct dm_unballoon_response resp;
 689         int i;
 690
 691         for (i = 0; i < range_count; i++)
 692                 free_balloon_pages(dm, &range_array[i]);
 693
 694         if (req->more_pages == 1)
 695                 return;
 696
 697         memset(&resp, 0, sizeof(struct dm_unballoon_response));
 698         resp.hdr.type = DM_UNBALLOON_RESPONSE;
 699         resp.hdr.trans_id = atomic_inc_return(&trans_id);
 700         resp.hdr.size = sizeof(struct dm_unballoon_response);
 701
 702         vmbus_sendpacket(dm_device.dev->channel, &resp,
 703                                 sizeof(struct dm_unballoon_response),
 704                                 (unsigned long)NULL,
 705                                 VM_PKT_DATA_INBAND, 0);
 706
 707         dm->state = DM_INITIALIZED;
 708 }
 709
 710 static void balloon_onchannelcallback(void *context);
 711
 712 static int dm_thread_func(void *dm_dev)
 713 {
 714         struct hv_dynmem_device *dm = dm_dev;
 715         int t;
 716         unsigned long  scan_start;
 717
 718         while (!kthread_should_stop()) {
 719                 t = wait_for_completion_timeout(&dm_device.config_event, 1*HZ);
 720                 /*
 721                  * The host expects us to post information on the memory
 722                  * pressure every second.
 723                  */
 724
 725                 if (t == 0)
 726                         post_status(dm);
 727
 728                 scan_start = jiffies;
 729                 switch (dm->state) {
 730                 case DM_BALLOON_UP:
 731                         balloon_up(dm, (struct dm_balloon *)recv_buffer);
 732                         break;
 733
 734                 case DM_HOT_ADD:
 735                         hot_add_req(dm, (struct dm_hot_add *)recv_buffer);
 736                         break;
 737                 default:
 738                         break;
 739                 }
 740
 741                 if (!time_in_range(jiffies, scan_start, scan_start + HZ))
 742                         post_status(dm);
 743
 744         }
 745
 746         return 0;
 747 }
 748
 749
 750 static void version_resp(struct hv_dynmem_device *dm,
 751                         struct dm_version_response *vresp)
 752 {
 753         struct dm_version_request version_req;
 754         int ret;
 755
 756         if (vresp->is_accepted) {
 757                 /*
 758                  * We are done; wakeup the
 759                  * context waiting for version
 760                  * negotiation.
 761                  */
 762                 complete(&dm->host_event);
 763                 return;
 764         }
 765         /*
 766          * If there are more versions to try, continue
 767          * with negotiations; if not
 768          * shutdown the service since we are not able
 769          * to negotiate a suitable version number
 770          * with the host.
 771          */
 772         if (dm->next_version == 0)
 773                 goto version_error;
 774
 775         dm->next_version = 0;
 776         memset(&version_req, 0, sizeof(struct dm_version_request));
 777         version_req.hdr.type = DM_VERSION_REQUEST;
 778         version_req.hdr.size = sizeof(struct dm_version_request);
 779         version_req.hdr.trans_id = atomic_inc_return(&trans_id);
 780         version_req.version.version = DYNMEM_PROTOCOL_VERSION_WIN7;
 781         version_req.is_last_attempt = 1;
 782
 783         ret = vmbus_sendpacket(dm->dev->channel, &version_req,
 784                                 sizeof(struct dm_version_request),
 785                                 (unsigned long)NULL,
 786                                 VM_PKT_DATA_INBAND, 0);
 787
 788         if (ret)
 789                 goto version_error;
 790
 791         return;
 792
 793 version_error:
 794         dm->state = DM_INIT_ERROR;
 795         complete(&dm->host_event);
 796 }
 797
 798 static void cap_resp(struct hv_dynmem_device *dm,
 799                         struct dm_capabilities_resp_msg *cap_resp)
 800 {
 801         if (!cap_resp->is_accepted) {
 802                 pr_info("Capabilities not accepted by host\n");
 803                 dm->state = DM_INIT_ERROR;
 804         }
 805         complete(&dm->host_event);
 806 }
 807
 808 static void balloon_onchannelcallback(void *context)
 809 {
 810         struct hv_device *dev = context;
 811         u32 recvlen;
 812         u64 requestid;
 813         struct dm_message *dm_msg;
 814         struct dm_header *dm_hdr;
 815         struct hv_dynmem_device *dm = hv_get_drvdata(dev);
 816
 817         memset(recv_buffer, 0, sizeof(recv_buffer));
 818         vmbus_recvpacket(dev->channel, recv_buffer,
 819                          PAGE_SIZE, &recvlen, &requestid);
 820
 821         if (recvlen > 0) {
 822                 dm_msg = (struct dm_message *)recv_buffer;
 823                 dm_hdr = &dm_msg->hdr;
 824
 825                 switch (dm_hdr->type) {
 826                 case DM_VERSION_RESPONSE:
 827                         version_resp(dm,
 828                                  (struct dm_version_response *)dm_msg);
 829                         break;
 830
 831                 case DM_CAPABILITIES_RESPONSE:
 832                         cap_resp(dm,
 833                                  (struct dm_capabilities_resp_msg *)dm_msg);
 834                         break;
 835
 836                 case DM_BALLOON_REQUEST:
 837                         dm->state = DM_BALLOON_UP;
 838                         complete(&dm->config_event);
 839                         break;
 840
 841                 case DM_UNBALLOON_REQUEST:
 842                         dm->state = DM_BALLOON_DOWN;
 843                         balloon_down(dm,
 844                                  (struct dm_unballoon_request *)recv_buffer);
 845                         break;
 846
 847                 case DM_MEM_HOT_ADD_REQUEST:
 848                         dm->state = DM_HOT_ADD;
 849                         complete(&dm->config_event);
 850                         break;
 851
 852                 case DM_INFO_MESSAGE:
 853                         process_info(dm, (struct dm_info_msg *)dm_msg);
 854                         break;
 855
 856                 default:
 857                         pr_err("Unhandled message: type: %d\n", dm_hdr->type);
 858
 859                 }
 860         }
 861
 862 }
 863
 864 static int balloon_probe(struct hv_device *dev,
 865                         const struct hv_vmbus_device_id *dev_id)
 866 {
 867         int ret, t;
 868         struct dm_version_request version_req;
 869         struct dm_capabilities cap_msg;
 870
 871         do_hot_add = hot_add;
 872
 873         /*
 874          * First allocate a send buffer.
 875          */
 876
 877         send_buffer = kmalloc(PAGE_SIZE, GFP_KERNEL);
 878         if (!send_buffer)
 879                 return -ENOMEM;
 880
 881         ret = vmbus_open(dev->channel, dm_ring_size, dm_ring_size, NULL, 0,
 882                         balloon_onchannelcallback, dev);
 883
 884         if (ret)
 885                 goto probe_error0;
 886
 887         dm_device.dev = dev;
 888         dm_device.state = DM_INITIALIZING;
 889         dm_device.next_version = DYNMEM_PROTOCOL_VERSION_WIN7;
 890         init_completion(&dm_device.host_event);
 891         init_completion(&dm_device.config_event);
 892
 893         dm_device.thread =
 894                  kthread_run(dm_thread_func, &dm_device, "hv_balloon");
 895         if (IS_ERR(dm_device.thread)) {
 896                 ret = PTR_ERR(dm_device.thread);
 897                 goto probe_error1;
 898         }
 899
 900         hv_set_drvdata(dev, &dm_device);
 901         /*
 902          * Initiate the hand shake with the host and negotiate
 903          * a version that the host can support. We start with the
 904          * highest version number and go down if the host cannot
 905          * support it.
 906          */
 907         memset(&version_req, 0, sizeof(struct dm_version_request));
 908         version_req.hdr.type = DM_VERSION_REQUEST;
 909         version_req.hdr.size = sizeof(struct dm_version_request);
 910         version_req.hdr.trans_id = atomic_inc_return(&trans_id);
 911         version_req.version.version = DYNMEM_PROTOCOL_VERSION_WIN8;
 912         version_req.is_last_attempt = 0;
 913
 914         ret = vmbus_sendpacket(dev->channel, &version_req,
 915                                 sizeof(struct dm_version_request),
 916                                 (unsigned long)NULL,
 917                                 VM_PKT_DATA_INBAND,
 918                                 VMBUS_DATA_PACKET_FLAG_COMPLETION_REQUESTED);
 919         if (ret)
 920                 goto probe_error2;
 921
 922         t = wait_for_completion_timeout(&dm_device.host_event, 5*HZ);
 923         if (t == 0) {
 924                 ret = -ETIMEDOUT;
 925                 goto probe_error2;
 926         }
 927
 928         /*
 929          * If we could not negotiate a compatible version with the host
 930          * fail the probe function.
 931          */
 932         if (dm_device.state == DM_INIT_ERROR) {
 933                 ret = -ETIMEDOUT;
 934                 goto probe_error2;
 935         }
 936         /*
 937          * Now submit our capabilities to the host.
 938          */
 939         memset(&cap_msg, 0, sizeof(struct dm_capabilities));
 940         cap_msg.hdr.type = DM_CAPABILITIES_REPORT;
 941         cap_msg.hdr.size = sizeof(struct dm_capabilities);
 942         cap_msg.hdr.trans_id = atomic_inc_return(&trans_id);
 943
 944         cap_msg.caps.cap_bits.balloon = 1;
 945         /*
 946          * While we currently don't support hot-add,
 947          * we still advertise this capability since the
 948          * host requires that guests partcipating in the
 949          * dynamic memory protocol support hot add.
 950          */
 951         cap_msg.caps.cap_bits.hot_add = 1;
 952
 953         /*
 954          * Currently the host does not use these
 955          * values and we set them to what is done in the
 956          * Windows driver.
 957          */
 958         cap_msg.min_page_cnt = 0;
 959         cap_msg.max_page_number = -1;
 960
 961         ret = vmbus_sendpacket(dev->channel, &cap_msg,
 962                                 sizeof(struct dm_capabilities),
 963                                 (unsigned long)NULL,
 964                                 VM_PKT_DATA_INBAND,
 965                                 VMBUS_DATA_PACKET_FLAG_COMPLETION_REQUESTED);
 966         if (ret)
 967                 goto probe_error2;
 968
 969         t = wait_for_completion_timeout(&dm_device.host_event, 5*HZ);
 970         if (t == 0) {
 971                 ret = -ETIMEDOUT;
 972                 goto probe_error2;
 973         }
 974
 975         /*
 976          * If the host does not like our capabilities,
 977          * fail the probe function.
 978          */
 979         if (dm_device.state == DM_INIT_ERROR) {
 980                 ret = -ETIMEDOUT;
 981                 goto probe_error2;
 982         }
 983
 984         dm_device.state = DM_INITIALIZED;
 985
 986         return 0;
 987
 988 probe_error2:
 989         kthread_stop(dm_device.thread);
 990
 991 probe_error1:
 992         vmbus_close(dev->channel);
 993 probe_error0:
 994         kfree(send_buffer);
 995         return ret;
 996 }
 997
 998 static int balloon_remove(struct hv_device *dev)
 999 {
1000         struct hv_dynmem_device *dm = hv_get_drvdata(dev);
1001
1002         if (dm->num_pages_ballooned != 0)
1003                 pr_warn("Ballooned pages: %d\n", dm->num_pages_ballooned);
1004
1005         vmbus_close(dev->channel);
1006         kthread_stop(dm->thread);
1007         kfree(send_buffer);
1008
1009         return 0;
1010 }
1011
1012 static const struct hv_vmbus_device_id id_table[] = {
1013         /* Dynamic Memory Class ID */
1014         /* 525074DC-8985-46e2-8057-A307DC18A502 */
1015         { HV_DM_GUID, },
1016         { },
1017 };
1018
1019 MODULE_DEVICE_TABLE(vmbus, id_table);
1020
1021 static  struct hv_driver balloon_drv = {
1022         .name = "hv_balloon",
1023         .id_table = id_table,
1024         .probe =  balloon_probe,
1025         .remove =  balloon_remove,
1026 };
1027
1028 static int __init init_balloon_drv(void)
1029 {
1030
1031         return vmbus_driver_register(&balloon_drv);
1032 }
1033
1034 static void exit_balloon_drv(void)
1035 {
1036
1037         vmbus_driver_unregister(&balloon_drv);
1038 }
1039
1040 module_init(init_balloon_drv);
1041 module_exit(exit_balloon_drv);
1042
1043 MODULE_DESCRIPTION("Hyper-V Balloon");
1044 MODULE_VERSION(HV_DRV_VERSION);
1045 MODULE_LICENSE("GPL");