Merge: Cons<->int and similar integer overflow fixes.
[bpt/emacs.git] / src / ChangeLog
index 6d642cb..08a008d 100644 (file)
@@ -1,4 +1,259 @@
-2011-05-31  Paul Eggert  <eggert@cs.ucla.edu>
+2011-06-06  Paul Eggert  <eggert@cs.ucla.edu>
+
+       Cons<->int and similar integer overflow fixes.
+
+       Check for overflow when converting integer to cons and back.
+       * charset.c (Fdefine_charset_internal, Fdecode_char):
+       Use cons_to_unsigned to catch overflow.
+       (Fencode_char): Use INTEGER_TO_CONS.
+       * composite.h (LGLYPH_CODE): Use cons_to_unsigned.
+       (LGLYPH_SET_CODE): Use INTEGER_TO_CONS.
+       * data.c (long_to_cons, cons_to_long): Remove.
+       (cons_to_unsigned, cons_to_signed): New functions.
+       These signal an error for invalid or out-of-range values.
+       * dired.c (Ffile_attributes): Use INTEGER_TO_CONS.
+       * fileio.c (Fset_visited_file_modtime): Use CONS_TO_INTEGER.
+       * font.c (Ffont_variation_glyphs):
+       * fontset.c (Finternal_char_font): Use INTEGER_TO_CONS.
+       * lisp.h: Include <intprops.h>.
+       (INTEGER_TO_CONS, CONS_TO_INTEGER): New macros.
+       (cons_to_signed, cons_to_unsigned): New decls.
+       (long_to_cons, cons_to_long): Remove decls.
+       * undo.c (record_first_change): Use INTEGER_TO_CONS.
+       (Fprimitive_undo): Use CONS_TO_INTEGER.
+       * xfns.c (Fx_window_property): Likewise.
+       * xselect.c: Include <limits.h>.
+       (x_own_selection, selection_data_to_lisp_data):
+       Use INTEGER_TO_CONS.
+       (x_handle_selection_request, x_handle_selection_clear)
+       (x_get_foreign_selection, Fx_disown_selection_internal)
+       (Fx_get_atom_name, x_send_client_event): Use CONS_TO_INTEGER.
+       (lisp_data_to_selection_data): Use cons_to_unsigned.
+       (x_fill_property_data): Use cons_to_signed.
+       Report values out of range.
+
+       Check for buffer and string overflow more precisely.
+       * buffer.h (BUF_BYTES_MAX): New macro.
+       * lisp.h (STRING_BYTES_MAX): New macro.
+       * alloc.c (Fmake_string):
+       * character.c (string_escape_byte8):
+       * coding.c (coding_alloc_by_realloc):
+       * doprnt.c (doprnt):
+       * editfns.c (Fformat):
+       * eval.c (verror):
+       Use STRING_BYTES_MAX, not MOST_POSITIVE_FIXNUM,
+       since they may not be the same number.
+       * editfns.c (Finsert_char):
+       * fileio.c (Finsert_file_contents):
+       Likewise for BUF_BYTES_MAX.
+
+       * image.c: Use ptrdiff_t, not int, for sizes.
+       (slurp_file): Switch from int to ptrdiff_t.
+       All uses changed.
+       (slurp_file): Check that file size fits in both size_t (for
+       malloc) and ptrdiff_t (for sanity and safety).
+
+       * fileio.c (Fverify_visited_file_modtime): Avoid time overflow
+       if b->modtime has its maximal value.
+
+       * dired.c (Ffile_attributes): Don't assume EMACS_INT has >32 bits.
+
+       Don't assume time_t can fit into int.
+       * buffer.h (struct buffer.modtime): Now time_t, not int.
+       * fileio.c (Fvisited_file_modtime): No need for time_t cast now.
+       * undo.c (Fprimitive_undo): Use time_t, not int, for time_t value.
+
+       Minor fixes for signed vs unsigned integers.
+       * character.h (MAYBE_UNIFY_CHAR):
+       * charset.c (maybe_unify_char):
+       * keyboard.c (read_char, reorder_modifiers):
+       XINT -> XFASTINT, since the integer must be nonnegative.
+       * ftfont.c (ftfont_spec_pattern):
+       * keymap.c (access_keymap, silly_event_symbol_error):
+       XUINT -> XFASTINT, since the integer must be nonnegative.
+       (Fsingle_key_description, preferred_sequence_p): XUINT -> XINT,
+       since it makes no difference and we prefer signed.
+       * keyboard.c (record_char): Use XUINT when all the neighbors do.
+       (access_keymap): NATNUMP -> INTEGERP, since the integer must be
+       nonnegative.
+
+2011-06-06  Stefan Monnier  <monnier@iro.umontreal.ca>
+
+       * window.h (Fwindow_frame): Declare.
+
+2011-06-06  Paul Eggert  <eggert@cs.ucla.edu>
+
+       * alloc.c: Simplify handling of large-request failures (Bug#8800).
+       (SPARE_MEMORY): Always define.
+       (LARGE_REQUEST): Remove.
+       (memory_full): Use SPARE_MEMORY rather than LARGE_REQUEST.
+
+2011-06-06  Martin Rudalics  <rudalics@gmx.at>
+
+       * lisp.h: Move EXFUNS for Fframe_root_window,
+       Fframe_first_window and Fset_frame_selected_window to window.h.
+
+       * window.h: Move EXFUNS for Fframe_root_window,
+       Fframe_first_window and Fset_frame_selected_window here from
+       lisp.h.
+
+       * frame.c (Fwindow_frame, Fframe_first_window)
+       (Fframe_root_window, Fframe_selected_window)
+       (Fset_frame_selected_window): Move to window.c.
+       (Factive_minibuffer_window): Move to minibuf.c.
+       (Fother_visible_frames_p): New function.
+
+       * minibuf.c (Factive_minibuffer_window): Move here from frame.c.
+
+       * window.c (decode_window, decode_any_window): Move up in code.
+       (Fwindowp, Fwindow_live_p): Rewrite doc-strings.
+       (inhibit_frame_unsplittable): Remove unused variable.
+       (Fwindow_buffer): Move up and rewrite doc-string.
+       (Fwindow_parent, Fwindow_vchild, Fwindow_hchild, Fwindow_next)
+       (Fwindow_prev): New functions.
+       (Fwindow_frame): Move here from frame.c.  Accept any window as
+       argument.
+       (Fframe_root_window, Fframe_first_window)
+       (Fframe_selected_window): Move here from frame.c.  Accept frame
+       or arbitrary window as argument.  Update doc-strings.
+       (Fminibuffer_window): Move up in code.
+       (Fwindow_minibuffer_p): Move up in code and simplify.
+       (Fset_frame_selected_window): Move here from frame.c.
+       Marginal rewrite.
+       (Fselected_window, select_window, Fselect_window): Move up in
+       code.  Minor doc-string fixes.
+
+2011-06-06  Paul Eggert  <eggert@cs.ucla.edu>
+
+       * alloc.c (memory_full) [SYSTEM_MALLOC]: Port to MacOS (Bug#8800).
+       Do not assume that spare memory exists; that assumption is valid
+       only if SYSTEM_MALLOC.
+       (LARGE_REQUEST): New macro, so that the issue of large requests
+       is separated from the issue of spare memory.
+
+2011-06-05  Andreas Schwab  <schwab@linux-m68k.org>
+
+       * editfns.c (Fformat): Correctly handle zero flag with hexadecimal
+       format.  (Bug#8806)
+
+       * gtkutil.c (xg_get_default_scrollbar_width): Avoid warning.
+
+       * xfns.c (x_set_scroll_bar_default_width): Move declarations
+       before statements.
+
+2011-06-05  Jan Djärv  <jan.h.d@swipnet.se>
+
+       * gtkutil.c (xg_get_default_scrollbar_width): New function.
+
+       * gtkutil.h: Declare xg_get_default_scrollbar_width.
+
+       * xfns.c (x_set_scroll_bar_default_width): If USE_GTK, get
+       min width by calling x_set_scroll_bar_default_width (Bug#8505).
+
+2011-06-05  Juanma Barranquero  <lekktu@gmail.com>
+
+       * xdisp.c (single_display_spec_intangible_p): Remove declaration.
+
+2011-06-04  Chong Yidong  <cyd@stupidchicken.com>
+
+       * xselect.c (x_clipboard_manager_save): Remove redundant arg.
+       (x_clipboard_manager_save): Add return value.
+       (x_clipboard_manager_error_1, x_clipboard_manager_error_2):
+       New error handlers.
+       (x_clipboard_manager_save_frame, x_clipboard_manager_save_all):
+       Obey Vx_select_enable_clipboard_manager.  Catch errors in
+       x_clipboard_manager_save (Bug#8779).
+       (Vx_select_enable_clipboard_manager): New variable.
+       (x_get_foreign_selection): Reduce scope of x_catch_errors (Bug#8790).
+
+2011-06-04  Dan Nicolaescu  <dann@ics.uci.edu>
+
+       * emacs.c (main): Warn when starting a GTK emacs in daemon mode.
+
+2011-06-04  YAMAMOTO Mitsuharu  <mituharu@math.s.chiba-u.ac.jp>
+
+       * fringe.c (update_window_fringes): Don't update overlay arrow bitmap
+       in the current matrix if keep_current_p is non-zero.
+
+2011-06-04  Eli Zaretskii  <eliz@gnu.org>
+
+       * bidi.c (bidi_level_of_next_char): Fix last change.
+
+2011-06-03  Eli Zaretskii  <eliz@gnu.org>
+
+       Support bidi reordering of text covered by display properties.
+
+       * bidi.c (bidi_copy_it): Use offsetof instead of emulating it.
+       (bidi_fetch_char, bidi_fetch_char_advance): New functions.
+       (bidi_cache_search, bidi_cache_iterator_state)
+       (bidi_paragraph_init, bidi_resolve_explicit, bidi_resolve_weak)
+       (bidi_level_of_next_char, bidi_move_to_visually_next):
+       Support character positions inside a run of characters covered by a
+       display string.
+       (bidi_paragraph_init, bidi_resolve_explicit_1)
+       (bidi_level_of_next_char): Call bidi_fetch_char and
+       bidi_fetch_char_advance instead of FETCH_CHAR and
+       FETCH_CHAR_ADVANCE.
+       (bidi_init_it): Initialize new members.
+       (LRE_CHAR, RLE_CHAR, PDF_CHAR, LRO_CHAR, RLO_CHAR): Remove macro
+       definitions.
+       (bidi_explicit_dir_char): Lookup character type in bidi_type_table,
+       instead of using explicit *_CHAR codes.
+       (bidi_resolve_explicit, bidi_resolve_weak):
+       Use FETCH_MULTIBYTE_CHAR instead of FETCH_CHAR, as reordering of
+       bidirectional text is supported only in multibyte buffers.
+       (bidi_init_it): Accept additional argument FRAME_WINDOW_P and use
+       it to initialize the frame_window_p member of struct bidi_it.
+       (bidi_cache_iterator_state, bidi_resolve_explicit_1)
+       (bidi_resolve_explicit, bidi_resolve_weak)
+       (bidi_level_of_next_char, bidi_move_to_visually_next): Abort if
+       bidi_it->nchars is non-positive.
+       (bidi_level_of_next_char): Don't try to lookup the cache for the
+       next/previous character if nothing is cached there yet, or if we
+       were just reseat()'ed to a new position.
+
+       * xdisp.c (set_cursor_from_row): Set start and stop points
+       according to the row's direction when priming the loop that looks
+       for the glyph on which to display cursor.
+       (single_display_spec_intangible_p): Function deleted.
+       (display_prop_intangible_p): Reimplement to call
+       handle_display_spec instead of single_display_spec_intangible_p.
+       Accept 3 additional arguments needed by handle_display_spec.
+       This fixes incorrect cursor motion across display property with complex
+       values: lists, `(when COND...)' forms, etc.
+       (single_display_spec_string_p): Support property values that are
+       lists with the argument STRING its top-level element.
+       (display_prop_string_p): Fix the condition for processing a
+       property that is a list to be consistent with handle_display_spec.
+       (handle_display_spec): New function, refactored from the
+       last portion of handle_display_prop.
+       (compute_display_string_pos): Accept additional argument
+       FRAME_WINDOW_P.  Call handle_display_spec to determine whether the
+       value of a `display' property is a "replacing spec".
+       (handle_single_display_spec): Accept 2 additional arguments BUFPOS
+       and FRAME_WINDOW_P.  If IT is NULL, don't set up the iterator from
+       the display property, but just return a value indicating whether
+       the display property will replace the characters it covers.
+       (Fcurrent_bidi_paragraph_direction): Initialize the nchars and
+       frame_window_p members of struct bidi_it.
+       (compute_display_string_pos, compute_display_string_end):
+       New functions.
+       (push_it): Accept second argument POSITION, where pop_it should
+       jump to continue iteration.
+       (reseat_1): Initialize bidi_it.disp_pos.
+
+       * keyboard.c (adjust_point_for_property): Adjust the call to
+       display_prop_intangible_p to its new signature.
+
+       * dispextern.h (struct bidi_it): New member frame_window_p.
+       (bidi_init_it): Update prototypes.
+       (display_prop_intangible_p): Update prototype.
+       (compute_display_string_pos, compute_display_string_end):
+       Declare prototypes.
+       (struct bidi_it): New members nchars and disp_pos.  ch_len is now
+       EMACS_INT.
+
+2011-06-02  Paul Eggert  <eggert@cs.ucla.edu>
 
        Malloc failure behavior now depends on size of allocation.
        * alloc.c (buffer_memory_full, memory_full): New arg NBYTES.
        (Fgnutls_boot): No need to check for memory allocation failure,
        since xmalloc does that for us.
 
+       Remove arbitrary limit of 2**31 entries in hash tables.  (Bug#8771)
+       * category.c (hash_get_category_set):
+       * ccl.c (ccl_driver):
+       * charset.c (Fdefine_charset_internal):
+       * charset.h (struct charset.hash_index):
+       * composite.c (get_composition_id, gstring_lookup_cache)
+       (composition_gstring_put_cache):
+       * composite.h (struct composition.hash_index):
+       * dispextern.h (struct image.hash):
+       * fns.c (next_almost_prime, larger_vector, cmpfn_eql)
+       (cmpfn_equal, cmpfn_user_defined, hashfn_eq, hashfn_eql)
+       (hashfn_equal, hashfn_user_defined, make_hash_table)
+       (maybe_resize_hash_table, hash_lookup, hash_put)
+       (hash_remove_from_table, hash_clear, sweep_weak_table, SXHASH_COMBINE)
+       (sxhash_string, sxhash_list, sxhash_vector, sxhash_bool_vector)
+       (Fsxhash, Fgethash, Fputhash, Fmaphash):
+       * image.c (make_image, search_image_cache, lookup_image)
+       (xpm_put_color_table_h):
+       * lisp.h (struct Lisp_Hash_Table):
+       * minibuf.c (Ftry_completion, Fall_completions, Ftest_completion):
+       * print.c (print):  Use 'EMACS_UINT' and 'EMACS_INT'
+       for hashes and hash indexes, instead of 'unsigned' and 'int'.
+       * alloc.c (allocate_vectorlike):
+       Check for overflow in vector size calculations.
+       * ccl.c (ccl_driver):
+       Check for overflow when converting EMACS_INT to int.
+       * fns.c, image.c: Remove unnecessary static decls that would otherwise
+       need to be updated by these changes.
+       * fns.c (make_hash_table, maybe_resize_hash_table):
+       Check for integer overflow with large hash tables.
+       (make_hash_table, maybe_resize_hash_table, Fmake_hash_table):
+       Prefer the faster XFLOAT_DATA to XFLOATINT where either will do.
+       (SXHASH_REDUCE): New macro.
+       (sxhash_string, sxhash_list, sxhash_vector, sxhash_bool_vector):
+       Use it instead of discarding useful hash info with large hash values.
+       (sxhash_float): New function.
+       (sxhash): Use it.  No more need for "& INTMASK" due to above changes.
+       * lisp.h (FIXNUM_BITS): New macro, useful for SXHASH_REDUCE etc.
+       (MOST_NEGATIVE_FIXNUM, MOST_POSITIVE_FIXNUM, INTMASK):
+       Rewrite to use FIXNUM_BITS, as this simplifies things.
+       (next_almost_prime, larger_vector, sxhash, hash_lookup, hash_put):
+       Adjust signatures to match updated version of code.
+       (consing_since_gc): Now EMACS_INT, since a single hash table can
+       use more than INT_MAX bytes.
+
+2011-06-01  Dan Nicolaescu  <dann@ics.uci.edu>
+
+       Make it possible to build with GCC-4.6+ -O2 -flto.
+
+       * emacs.c (__malloc_initialize_hook): Mark as EXTERNALLY_VISIBLE.
+
+2011-06-01  Stefan Monnier  <monnier@iro.umontreal.ca>
+
+       * minibuf.c (get_minibuffer, read_minibuf_unwind):
+       Call minibuffer-inactive-mode.
+
+2011-05-31  Juanma Barranquero  <lekktu@gmail.com>
+
+       * makefile.w32-in ($(BLD)/data.$(O), $(BLD)/editfns.$(O)):
+       Update dependencies.
+
+2011-05-31  Dan Nicolaescu  <dann@ics.uci.edu>
+
+       * data.c (init_data): Remove code for UTS, this system is not
+       supported anymore.
+
+2011-05-31  Dan Nicolaescu  <dann@ics.uci.edu>
+
+       Don't force ./temacs to start in terminal mode.
+
+       * frame.c (make_initial_frame): Initialize faces in all cases, not
+       only when CANNOT_DUMP is defined.
+       * dispnew.c (init_display): Remove CANNOT_DUMP condition.
+
+2011-05-31  Dan Nicolaescu  <dann@ics.uci.edu>
+
+       * dispnew.c (add_window_display_history): Use const for the string
+       pointer.  Remove declaration, not needed.
+
+2011-05-31  Paul Eggert  <eggert@cs.ucla.edu>
+
        Use 'inline', not 'INLINE'.
        <http://lists.gnu.org/archive/html/emacs-devel/2011-05/msg00914.html>
        * alloc.c, fontset.c (INLINE): Remove.
 
        merge count_size_as_multibyte, parse_str_to_multibyte
        * character.c, character.h (count_size_as_multibyte):
-       Renamed from parse_str_to_multibyte; all uses changed.
+       Rename from parse_str_to_multibyte; all uses changed.
        Check for integer overflow.
        * insdel.c, lisp.h (count_size_as_multibyte): Remove,
        since it's now a duplicate of the other.  This is more of